Безопасность при использовании ИИ

Проблема выравнивания: как сделать ИИ предсказуемым

В 2021 году исследователи OpenAI обнаружили, что языковая модель GPT-3 (175 миллиардов параметров) при определённых формулировках запроса выдавала инструкции по изготовлению взрывчатых веществ, несмотря на встроенные фильтры безопасности. Этот пример иллюстрирует центральную проблему безопасности ИИ — выравнивание (alignment): как гарантировать, что система будет действовать в соответствии с человеческими ценностями, даже в ситуациях, не предусмотренных разработчиками? В отличие от традиционного программного обеспечения, где поведение жёстко задано кодом, нейросети обучаются на данных и могут проявлять непредвиденное поведение — их называют моделями чёрного ящика.

Основные угрозы для пользователей

Помимо проблемы выравнивания, практическая безопасность ИИ включает несколько категорий угроз для обычных пользователей. Первая — утечка персональных данных. При взаимодействии с ИИ-сервисами пользователь передаёт голосовые записи, тексты, фотографии, геолокацию. В 2023 году Samsung запретил сотрудникам использовать ChatGPT после того, как инженеры скопировали в чат конфиденциальный исходный код, который попал в обучающую выборку. Вторая угроза — фишинг нового поколения. Раньше мошеннические письма выдавали грамматические ошибки; теперь генеративные модели создают безупречный текст на любом языке, имитируя стиль конкретного банка или госоргана.

Дипфейки и социальная инженерия

Синтез речи и генерация видео достигли уровня, позволяющего мошенникам подделывать голос и внешность знакомых людей. В 2019 году злоумышленники с помощью ИИ-синтезированного голоса убедили руководителя британской энергетической компании перевести 220 000 евро на подставной счёт, имитируя голос главы материнской компании. В 2023 году подобные случаи с клонированием голоса родственников участились в мессенджерах по всему миру. Для клонирования голоса злоумышленнику достаточно нескольких секунд аудиозаписи из публичного источника — голосового сообщения в соцсетях или видео на YouTube.

Отказоустойчивость и непредвиденное поведение

Даже хорошо обученные модели могут давать сбои в нестандартных ситуациях. Автопилот Tesla неоднократно принимал луну на горизонте за жёлтый сигнал светофора и начинал торможение на трассе. Чат-боты в роли техподдержки выдавали оскорбительные ответы после того, как пользователи «взламывали» их prompt-защиту. Системы распознавания лиц демонстрировали более высокую частоту ложных срабатываний для людей с тёмным цветом кожи. Все эти случаи объединяет одно: модель не знает, чего она не знает, и действует уверенно даже в области полной некомпетентности.

Как защититься

Практические меры безопасности включают: не передавать ИИ-сервисам конфиденциальную информацию (пароли, паспортные данные, финансовые реквизиты); внимательно читать, какие разрешения запрашивает приложение; использовать двухфакторную аутентификацию; проверять подозрительные сообщения через альтернативные каналы связи. На уровне общества необходимы стандарты тестирования безопасности моделей перед публичным выпуском — подход, известный как red-teaming, когда специально обученные специалисты пытаются «взломать» модель до того, как она попадёт к пользователям. Важнейший навык цифровой эпохи — здоровый скептицизм: любое голосовое сообщение, видео или письмо может быть синтезировано, и единственная надёжная проверка — верификация через независимый канал.