ИИ и безопасность

AI governance: кто в компании должен отвечать за риски искусственного интеллекта

Во многих компаниях, с которыми я работаю, использование ИИ-инструментов распространилось настолько быстро, что организационная структура просто не успела за этим угнаться. На вопрос «кто у вас отвечает за риски, связанные с ИИ» я регулярно слышу растерянную паузу, а затем один из трёх вариантов: «наверное, ИТ», «наверное, ИБ», либо прямое признание, что этим пока не занимается никто конкретно.

Почему вопрос ответственности не решается сам собой

ИИ как технология находится на стыке нескольких традиционных зон ответственности, и именно это создаёт проблему. ИТ-отдел обычно отвечает за выбор и внедрение технологий, но у него редко есть компетенция в оценке специфических рисков безопасности данных и юридических рисков, связанных с ИИ. ИБ отвечает за защиту данных и инфраструктуры, но классическая экспертиза ИБ-специалиста исторически строилась вокруг сетевой безопасности, управления уязвимостями, реагирования на инциденты, не вокруг специфики работы языковых моделей. Юристы отвечают за соответствие регуляторным требованиям, но не обладают технической экспертизой, чтобы оценить, какие конкретно риски создаёт та или иная архитектура ИИ-решения.

В результате риски, связанные с ИИ, часто проваливаются в зазор между отделами: каждый считает, что это не совсем его зона, и эффективный контроль не выстраивается, пока не случится заметный инцидент.

Модель ответственности, которая работает на практике

За годы работы с разными компаниями я пришёл к модели распределённой, но координируемой ответственности, которая на практике работает лучше, чем попытка возложить весь вопрос ИИ на один отдел целиком.

ИБ-служба или vCISO берёт на себя координирующую роль и прямую ответственность за оценку рисков безопасности: какие данные обрабатываются ИИ-инструментами, куда они передаются, какие технические меры защиты применяются. Это логичное продолжение существующей роли ИБ в управлении рисками данных, расширенное на новую категорию инструментов.

Юридическая служба отвечает за оценку соответствия использования ИИ требованиям законодательства, в первую очередь 152-ФЗ применительно к персональным данным, о чём я подробно писал в отдельной статье, а также за договорные аспекты (условия использования конкретных сервисов, ответственность за решения, принятые с помощью ИИ, страхование соответствующих рисков).

ИТ-отдел отвечает за техническую инфраструктуру внедрения: какие инструменты технически доступны сотрудникам, как настроен доступ, как организовано корпоративное использование в противовес бесконтрольному личному.

Руководители бизнес-подразделений отвечают за практическое применение в рамках своей функции: именно они лучше всего понимают, какие задачи их команда пытается решить с помощью ИИ, и должны быть вовлечены в формирование политики, не просто получать её как готовый документ сверху.

Ключевая ошибка, которую я вижу регулярно: попытка решить вопрос ответственности созданием ещё одного комитета без реальных полномочий и бюджета. Комитет, который собирается раз в квартал обсудить риски ИИ без мандата что-либо менять в реальных процессах, производит протоколы заседаний, не управление риском.

Кто должен быть главным ответственным

При всей пользе распределённой модели, практика показывает: без одного явно назначенного человека, координирующего эту работу и несущего итоговую ответственность перед руководством, распределённая ответственность быстро превращается в отсутствие ответственности, потому что каждый отдел считает, что решение должен принять кто-то другой.

В большинстве компаний, с которыми я работал, эта координирующая роль логично ложится на ИБ-руководителя (CISO или vCISO), потому что управление рисками данных и технологий уже является частью его мандата, и расширение этого мандата на специфику ИИ требует меньше организационных изменений, чем создание принципиально новой роли. В компаниях с развитой функцией управления рисками (риск-менеджмент, комплаенс) эта роль иногда логичнее встраивается туда, особенно если ИИ-риски компании выходят далеко за пределы чисто информационной безопасности в сторону репутационных и операционных рисков.

Конкретные элементы, которые должна включать модель governance

Реестр используемых в компании ИИ-инструментов с указанием, какой отдел их использует, для каких задач и с каким уровнем доступа к данным. Без такого реестра невозможно управлять риском, потому что невозможно оценить то, что не задокументировано.

Процедура оценки риска перед внедрением нового ИИ-инструмента или новой задачи для существующего, по аналогии с тем, как оценивается риск при подключении любой новой внешней системы к инфраструктуре компании. Эта оценка не обязана быть бюрократически тяжёлой: для низкорисковых задач достаточно короткого чек-листа, для задач с доступом к чувствительным данным или с полномочиями принимать решения (как в случае ИИ-агентов, о которых я писал отдельно) оценка должна быть более тщательной.

Регулярный пересмотр реестра и политики, потому что технология и практика её использования в компании меняются быстрее, чем большинство других областей ИБ, и документ, актуальный год назад, может уже не отражать реальность.

Канал для сотрудников, чтобы сообщать о новых сценариях использования ИИ или о подозрении на некорректную работу системы, без страха наказания за сам факт обращения. Культура, в которой сотрудник боится признаться, что случайно вставил конфиденциальные данные в чат-бот, гарантированно приводит к тому, что компания узнаёт о проблеме намного позже и в худшем варианте, чем могла бы.

Итоговая мысль

Вопрос «кто отвечает за ИИ в нашей компании» не имеет простого ответа в виде одного названия отдела, потому что риски ИИ по своей природе распределены между технической, юридической и бизнес-плоскостью одновременно. Рабочая модель строится не на поиске единственного виновного отдела. Она строится на чётком распределении зон ответственности с одним координирующим центром, который следит, чтобы ни один аспект риска не провалился в зазор между отделами просто потому, что каждый считал его чужой задачей.

Не можете определить, кто в компании должен отвечать за риски, связанные с ИИ? vCISO и консалтинг по ИБ помогает выстроить эту модель ответственности с нуля.