ИИ в фишинге: как нейросети изменили социальную инженерию

Долгие годы одним из главных признаков фишингового письма для обычного сотрудника были странные обороты речи, орфографические ошибки, неестественный русский или английский язык, выдававший, что текст писал не носитель языка или человек, плохо знакомый с деловой перепиской конкретной страны. Этот сигнал больше не работает. Генеративные модели пишут грамотный, стилистически корректный текст на любом языке мира, и это радикально изменило экономику фишинга.

Что конкретно изменилось

Раньше массовая фишинговая кампания требовала компромисса: либо качественный, хорошо написанный текст под конкретную цель (дорого и медленно, требует реального человека с хорошим знанием языка), либо массовая рассылка низкого качества с характерными ошибками (дёшево, но легко распознаётся). Генеративный ИИ убрал этот компромисс. Теперь можно сгенерировать тысячи персонализированных, грамотных писем практически бесплатно и почти мгновенно.

Персонализация тоже вышла на новый уровень. Модель, получившая доступ к публичной информации о компании и конкретном сотруднике (профиль в соцсети, упоминания в новостях, структура организации с сайта), способна сгенерировать письмо, которое ссылается на реальные детали: имя руководителя, недавний корпоративный проект, актуальное событие в отрасли. Это именно та персонализация, которая раньше требовала серьёзной ручной разведки (OSINT) перед целевой атакой (spear phishing), а теперь частично автоматизируется.

Голосовой и видеофишинг: следующий уровень

Отдельная, стремительно растущая категория атак связана с синтезом голоса и видео. В 2024 году широко освещался случай в Гонконге, где сотрудник международной компании перевёл крупную сумму денег (по публичным оценкам, порядка 25 миллионов долларов) после видеоконференции, на которой, как он был убеждён, присутствовали его реальные коллеги и финансовый директор компании. Все участники звонка, кроме самого сотрудника, оказались синтезированными дипфейками, созданными на основе публично доступных видеозаписей реальных людей.

Это не единичный экзотический случай. Атаки с использованием синтезированного голоса руководителя («звонок от генерального директора» с просьбой срочно перевести деньги или передать доступ) фиксировались у компаний разного масштаба по всему миру, и стоимость создания убедительной подделки голоса продолжает падать, а качество расти. Этой теме я посвятил отдельный разбор с конкретными случаями мошенничества через синтез голоса и видео.

Ключевое изменение, которое приносит ИИ в социальную инженерию, не в том, что появляется принципиально новый тип атаки. Фишинг и мошенничество под видом руководителя существовали десятилетиями. Изменение в том, что барьер входа для качественной атаки резко упал, а правдоподобность резко выросла, и то, что раньше требовало профессиональной подготовки, теперь доступно практически любому.

Почему старые тренинги по фишингу устарели

Классический тренинг по распознаванию фишинга учит сотрудников искать орфографические ошибки, странное форматирование, подозрительные ссылки с опечатками в домене. Эти признаки остаются полезными для низкокачественных массовых рассылок, но бесполезны против целевой атаки, сгенерированной современной моделью с грамотным языком и персонализированными деталями.

Компания, которая продолжает обучать сотрудников искать только эти устаревшие признаки, создаёт ложное чувство защищённости: сотрудник, прошедший такой тренинг, думает, что умеет распознавать фишинг, хотя на самом деле умеет распознавать только одну, всё более редкую его разновидность.

Как адаптировать защиту к новой реальности

Фокус обучения должен сместиться с лингвистических признаков на процедурные. Грамотность текста больше не индикатор легитимности, поэтому сотрудников нужно учить проверять не как написано письмо. Важнее то, через какой канал и с каким контекстом поступил запрос. Любой запрос на срочный перевод денег, изменение реквизитов, предоставление доступа или разглашение конфиденциальной информации должен проходить через заранее установленную процедуру верификации по независимому каналу связи, вне зависимости от того, насколько убедительно звучит или выглядит отправитель.

Для защиты от голосового и видеофишинга полезна практика кодового слова для действительно критичных транзакций: заранее установленная внутри компании фраза или вопрос, который используется для подтверждения личности при необычных запросах по телефону или видеосвязи. Это может звучать старомодно, но именно такая простая процедурная мера эффективна против атаки, которую технически почти невозможно отличить от настоящего звонка коллеги.

Техническая защита тоже требует обновления: современные антифишинговые решения всё активнее анализируют не только содержание письма, но и поведенческие паттерны (время отправки, несвойственный стиль коммуникации для данного отправителя, аномалии в заголовках письма), поскольку чисто лингвистический анализ текста теряет эффективность против грамотно сгенерированного контента.

Регулярные симуляции фишинговых атак внутри компании, включая сценарии с качественным, персонализированным текстом, не только устаревшие шаблоны с очевидными ошибками, дают более реалистичную картину готовности сотрудников к актуальной угрозе, не к угрозе пятилетней давности.

Практический вывод для руководителя

Инвестиции в защиту от социальной инженерии должны расти пропорционально тому, насколько упала стоимость качественной атаки для злоумышленника. То, что раньше требовало опытного мошенника с хорошей подготовкой, сейчас доступно практически любому человеку с доступом к публичным генеративным инструментам. Компании, которая ещё обучает сотрудников по методичке пятилетней давности, стоит честно оценить, насколько эта методичка соответствует атакам, с которыми её сотрудники реально столкнутся в ближайшее время.

Итоговая мысль

ИИ не изобрёл социальную инженерию заново, но кардинально изменил её экономику: барьер входа снизился, качество выросло, а старые эвристики распознавания потеряли силу. Защита, построенная вокруг процедур верификации, остаётся устойчивой вне зависимости от того, насколько совершенным станет следующее поколение генеративных моделей. Умение отличить хорошо написанное письмо от плохо написанного тут уже почти ничего не решает.