Shadow AI: сотрудники уже используют нейросети с корпоративными данными без ведома ИБ

Несколько лет назад индустрия ИБ активно обсуждала проблему shadow IT: сотрудники заводят собственные облачные диски, ставят мессенджеры в обход корпоративной политики, пользуются личными флешками. Сейчас на то же место пришла новая, более масштабная версия этой проблемы. Shadow AI. И судя по моей практике в разных компаниях, большинство руководителей сильно недооценивают, насколько глубоко это уже произошло.

Что происходит на самом деле

Представьте обычный рабочий день юриста в компании среднего размера. Нужно быстро резюмировать длинный договор. Открывается чат-бот, договор вставляется целиком, через минуту готово краткое содержание. Удобно, быстро, бесплатно. Юрист не думает об ИБ в этот момент. Он думает о дедлайне.

Разработчик копирует кусок проприетарного кода в чат, чтобы получить подсказку по багу. HR-менеджер вставляет резюме кандидатов в нейросеть, чтобы составить сравнительную таблицу. Менеджер по продажам закидывает переписку с клиентом в чат-бот, чтобы быстро написать вежливый ответ. Каждое из этих действий в отдельности выглядит безобидным. В совокупности это означает, что конфиденциальные данные компании ежедневно утекают на серверы сторонних сервисов, причём часто без малейшего понимания, что происходит с этими данными дальше.

По данным нескольких независимых исследований последних лет (в частности, отчётов компаний, специализирующихся на мониторинге корпоративного трафика), доля сотрудников, использующих публичные генеративные модели на рабочем месте без согласования с ИБ, в большинстве организаций превышает половину коллектива. Причём эта доля почти не зависит от того, разрешено это официально или запрещено. Запрет просто переводит использование в менее заметную форму: с личного телефона, через VPN, под личным аккаунтом вместо корпоративного.

Почему блокировка не решает проблему

Первая реакция многих ИБ-служб на эту проблему, с которой я сталкивался не раз: заблокировать доступ к популярным чат-ботам на уровне корпоративного файрвола. Это решение интуитивно понятное и почти всегда проваливается на практике.

Блокировка одного домена обходится за минуту через личный телефон на мобильном интернете. Сотрудник, у которого реально горит дедлайн, не станет разбираться, можно это или нельзя: он найдёт способ, и теперь использует инструмент ещё менее контролируемо, чем раньше, потому что делает это тайно. Запрет без объяснения причины и без альтернативы воспринимается коллективом как очередное бессмысленное ограничение от ИБ, что дополнительно подрывает доверие к службе безопасности в целом.

Есть и более глубокая проблема: тотальный запрет лишает компанию реального преимущества в производительности, которое дают эти инструменты. Юрист, который резюмирует договор за минуту вместо получаса, объективно работает эффективнее. Задача ИБ не в том, чтобы остановить прогресс силой запрета. Задача в том, чтобы направить его в управляемое русло.

Что реально утекает и куда

Прежде чем выстраивать политику, стоит понять техническую сторону вопроса. Большинство бесплатных и даже части платных тарифов публичных нейросетей используют пользовательские запросы для дальнейшего обучения модели, если явно не отключена такая опция в настройках. Это означает, что фрагмент кода, вставленный в чат сегодня, теоретически может повлиять на ответы модели для совершенно другого пользователя где-то в мире завтра.

Для компаний, работающих с персональными данными граждан России, здесь добавляется прямой конфликт с 152-ФЗ: передача персональных данных на серверы иностранного сервиса без правовых оснований и без уведомления субъекта данных формально является нарушением закона, независимо от того, насколько благими были намерения сотрудника. Этот риск я разбираю подробнее в отдельной статье про 152-ФЗ и нейросети, но здесь важно подчеркнуть: это не гипотетический юридический нюанс. Это реальная ответственность компании перед регулятором.

Самый частый ответ, который я слышу от руководителей после первого серьёзного разговора о shadow AI: «мы были уверены, что у нас этого нет, потому что никто не жаловался». Отсутствие жалоб не значит отсутствие проблемы. Это значит, что проблема ещё не стала видимой.

Как оценить реальный масштаб в своей компании

Прежде чем писать политику, нужна честная диагностика. Анализ сетевого трафика на DNS-уровне за последние несколько месяцев показывает, какие домены нейросетевых сервисов реально посещались с корпоративной сети, и насколько массово. Анонимный опрос сотрудников (именно анонимный, иначе честных ответов не будет) даёт картину того, какие задачи люди уже решают с помощью ИИ и почему именно этим инструментом, не разрешённой альтернативой. Разговор с руководителями отделов о том, какие рутинные задачи в их команде сейчас съедают больше всего времени, часто прямо указывает на то, где сотрудники ищут обходной путь через нейросеть.

Что делать вместо запрета

Рабочий подход, который я применяю на практике в консалтинговых проектах, строится на трёх уровнях.

Первый уровень: предоставить легальную, безопасную альтернативу. Это может быть корпоративная подписка на модель с договором о неиспользовании данных для обучения, локально развёрнутая модель для чувствительных задач, или использование российских аналогов (GigaChat, YandexGPT) в случаях, когда данные не должны покидать юрисдикцию РФ по требованиям регулятора. Альтернатива должна быть не хуже по удобству, чем то, чем люди уже пользуются, иначе переход на неё не произойдёт.

Второй уровень: чёткая классификация данных, которые нельзя передавать в любую внешнюю систему вообще, вне зависимости от того, разрешена она официально или нет. Персональные данные клиентов, коммерческая тайна, исходный код проприетарных продуктов, финансовая отчётность до публикации: эти категории должны быть явно перечислены простым языком, понятным не только ИБ-специалисту.

Третий уровень: обучение как первая реакция, не наказание. Большинство случаев использования shadow AI происходит не из злого умысла. Чаще дело в простом незнании о рисках. Короткий, конкретный тренинг с реальными примерами (включая разбор публичных инцидентов, о которых расскажу в статье про утечки через нейросети) работает значительно лучше, чем дисциплинарный приказ, который никто не прочитает.

Итоговая мысль

Shadow AI не исчезнет сам по себе и не остановится запретом. Это уже часть рабочей реальности почти любой компании, вне зависимости от размера и отрасли. Разумная задача ИБ-службы в этой ситуации не в борьбе с технологией. Задача в том, чтобы встроить её использование в контролируемый контур, где компания понимает, какие данные куда уходят, и может за это отвечать перед клиентами и регулятором.