ИИ и безопасность
Нужен ли ИИ-движок в DLP и SIEM: разбор без маркетинга вендоров
DLP (Data Loss Prevention) и SIEM (Security Information and Event Management): два класса систем, в описании которых слово «искусственный интеллект» сейчас встречается почти обязательно, вне зависимости от того, какая технология реально стоит за этой формулировкой. Разберу оба класса отдельно, потому что задачи у них разные, и роль машинного обучения в них тоже разная.
DLP: что нейросети реально умеют, а что нет
Классический DLP работает по принципу сигнатур и правил: система ищет в трафике и файлах совпадения с заданными шаблонами (номера карт, паспортные данные, ключевые слова из списка конфиденциальных терминов компании) и блокирует или помечает передачу данных, соответствующих этим шаблонам. Такой подход хорошо работает со структурированными данными, но плохо справляется с данными, которые можно переформулировать бесчисленным количеством способов: суть коммерческого предложения, описанная своими словами, не содержит точных совпадений с заданными шаблонами, и классический DLP её пропустит.
Здесь у машинного обучения действительно есть практическая область применения: классификация неструктурированного текста по смысловой категории (это похоже на коммерчески чувствительный документ, даже если точных ключевых слов нет), не по точному совпадению с шаблоном. Современные DLP-системы с реальным, не декоративным, ИИ-компонентом способны распознать, что документ, скорее всего, содержит финансовую отчётность или юридически значимые условия сделки, даже если он написан нестандартно, без привычных маркеров.
Важное ограничение, о котором редко честно говорят в презентациях: такая классификация работает статистически, не детерминированно. Она неизбежно будет иногда пропускать реально чувствительные данные (ложноотрицательные срабатывания) и иногда блокировать безобидные документы, случайно похожие по структуре на конфиденциальные (ложноположительные срабатывания). Компания, рассчитывающая на стопроцентную точность ИИ-классификации данных, неизбежно столкнётся с разочарованием.
SIEM: совсем другая задача и другая роль ИИ
SIEM решает принципиально другую задачу: агрегация логов и событий из множества источников инфраструктуры в единую систему с возможностью корреляции и поиска. Здесь роль ИИ-компонента чаще всего сводится к выявлению аномалий (behavioral analytics, UEBA, то есть User and Entity Behavior Analytics) и приоритизации алертов на основе исторических паттернов, о чём я подробно писал в статье про автоматизацию SOC.
Ключевое отличие SIEM от DLP в контексте применения ИИ: SIEM работает с огромным объёмом структурированных событий (логи, сетевой трафик, данные аутентификации), для которых статистические методы и машинное обучение исторически хорошо подходят и применялись задолго до нынешней моды на формулировку «искусственный интеллект». Выявление аномального поведения учётной записи (вход в необычное время, из необычной геолокации, доступ к ресурсам, которые пользователь обычно не запрашивает) это классическая, проверенная временем задача машинного обучения, которую сейчас просто переупаковывают под модный термин.
Стоит честно признать: значительная часть «ИИ-функциональности» в современных SIEM и DLP это технологии машинного обучения, которые индустрия использовала и раньше под именем behavioral analytics, anomaly detection, predictive analytics. Ребрендинг под «искусственный интеллект» совпал по времени с ростом популярности генеративных моделей, хотя технологически эти вещи часто слабо связаны.
Когда переплата за «ИИ» оправдана
Переплата оправдана, когда у компании есть конкретная, измеримая проблема, которую традиционные сигнатурные и правиловые подходы не решают: большой объём неструктурированных данных, которые нужно классифицировать по смыслу, не по точному совпадению с шаблоном (для DLP), или высокий объём событий безопасности, в котором ручная приоритизация физически не успевает за потоком (для SIEM). В этих сценариях статистические и ИИ-методы дают измеримое улучшение, которое можно обосновать конкретными цифрами на пилотном внедрении.
Переплата не оправдана, когда компания небольшая, объём данных и событий умеренный, и традиционная сигнатурная система с грамотно настроенными правилами справляется с задачей полностью. В этом случае дорогой «ИИ-движок» добавляет сложность в эксплуатации (специалисты, умеющие настраивать и интерпретировать такую систему, стоят дороже) без соразмерного прироста эффективности.
Как провести честное сравнение при выборе продукта
Запросить у вендора конкретные цифры по снижению ложных срабатываний и повышению полноты обнаружения на пилоте с данными вашей компании, не на демонстрационном стенде. Сравнить итоговую совокупную стоимость владения (лицензия, настройка, обучение персонала, поддержка) системы с заявленным ИИ-компонентом против системы без него, решающей ту же базовую задачу. Оценить, есть ли в команде ИБ компании компетенция для эффективной настройки и интерпретации результатов ИИ-компонента: система, которую некому правильно настроить и которой некому доверять интерпретацию результатов, не приносит заявленной пользы вне зависимости от качества самой технологии.
Проверить, насколько прозрачна логика решений системы (объяснимость, о которой я писал в статье про маркетинг ИИ-безопасности): аналитику важно понимать, почему конкретное событие помечено как аномальное или заблокировано. Просто получать вердикт без объяснений недостаточно, особенно если по этому вердикту придётся принимать решения с реальными бизнес-последствиями.
Итоговая мысль
ИИ-компонент в DLP и SIEM не фикция и не обязательная необходимость одновременно. Это дополнительная технология, оправданная для конкретного профиля задач с конкретным объёмом и типом данных. Решение о покупке стоит принимать на основе измеримой пользы для конкретной инфраструктуры компании, не на основе того, насколько впечатляюще звучит описание продукта на слайде вендора.
Выбираете или пересматриваете DLP и SIEM для компании? Аудит информационной безопасности поможет сравнить реальную функциональность, не маркетинговые обещания разных вендоров.