ИИ и безопасность

Заменит ли искусственный интеллект аналитика SOC и CISO: взгляд практика

За последний год этот вопрос на менторских консультациях стал звучать регулярно, причём от специалистов самого разного уровня: от junior-аналитиков SOC, только начавших карьеру, до опытных CISO, которые видят, как вендоры наперебой обещают автоматизировать половину их команды. Отвечу честно, опираясь на собственную практику и на то, что реально наблюдаю в проектах, не на абстрактные футурологические рассуждения.

Короткий ответ

Нет, в горизонте ближайших нескольких лет ИИ не заменит аналитика SOC или CISO полностью. Да, он уже меняет, что конкретно входит в их повседневную работу, и это изменение будет ускоряться. Специалисты, которые адаптируются к этому изменению, получат преимущество. Те, кто продолжит работать так, будто ничего не меняется, рискуют карьерой не из-за замены их ИИ напрямую. Рискуют из-за того, что их обгонят коллеги, научившиеся эффективно работать вместе с новыми инструментами.

Что конкретно меняется в работе аналитика SOC

Рутинная часть работы, которую я бы назвал «первичной сортировкой»: просмотр массы низкоприоритетных алертов, сбор базового контекста по событию, составление первичного описания инцидента: всё это уже сейчас эффективно автоматизируется, и эта тенденция только усилится. Аналитик, чья ценность для компании в основном состояла из этой рутины, объективно находится в зоне риска. Дело не в том, что его заменит конкретная модель. Дело в том, что объём такой работы, за которую компания готова платить человеку, будет сокращаться.

Ценность смещается в сторону задач, которые модель структурно плохо выполняет: интерпретация нестандартных, ранее не встречавшихся сценариев атаки, о чём я подробно писал в статье про автоматизацию SOC, понимание бизнес-контекста конкретной компании при оценке серьёзности инцидента, принятие решений в условиях неопределённости и ответственность за эти решения. Эти навыки не автоматизируются в обозримой перспективе, потому что требуют понимания контекста, выходящего далеко за пределы паттернов в данных.

Практический совет, который я даю аналитикам на менторстве: вместо того чтобы бояться ИИ-инструментов в своём SOC, стоит стать тем специалистом, который умеет их эффективно использовать и, что важнее, знает границы их применимости лучше остальных команды. Специалист, который понимает, где моделям можно доверять, а где нужно перепроверять вручную, становится более ценным с ростом автоматизации вокруг него, не менее ценным.

Исторический паттерн, который стоит иметь в виду: каждая волна автоматизации в ИТ (от появления антивирусов с сигнатурным анализом до SIEM и SOAR) вызывала похожие опасения о массовом сокращении специалистов ИБ. Ни разу эти опасения не реализовались в полном объёме. Каждый раз менялся состав задач внутри профессии. Профессия при этом не исчезала.

Что меняется в работе CISO

Для руководителя ИБ изменение другого рода: появляется новая категория рисков, которой нужно управлять (использование ИИ сотрудниками, безопасность собственных ИИ-внедрений компании, вопросы AI governance, о которых я писал отдельно), и новая категория инструментов, которые нужно оценивать для усиления собственной команды. CISO, который игнорирует эту тему, рискует оказаться неготовым к разговору с советом директоров, когда тот неизбежно спросит: «а что у нас с рисками ИИ».

С другой стороны, CISO, который поддался общему культу вокруг темы (об этом явлении у меня есть отдельная статья) и начал закупать избыточное количество «ИИ-решений» без трезвой оценки их реальной пользы, рискует не меньше: потраченный впустую бюджет и ложное чувство защищённости у руководства компании.

Роль CISO в целом движется в сторону ещё большего смещения от чисто технической экспертизы к управленческой и коммуникативной: способности объяснить совету директоров реальные риски и реальные возможности технологии, без излишнего алармизма и без слепого следования моде. Этот навык, кстати, был ключевым и до появления генеративного ИИ, что я подробно разбирал в статье о техническом и управленческом навыке в карьере ИБ-специалиста. ИИ просто добавил ещё одну тему, в которой это умение нужно применить.

Какие специализации становятся более востребованными

На фоне роста применения ИИ в бизнесе и в самой ИБ растёт спрос на специалистов, понимающих специфические риски этой технологии: тестирование безопасности ИИ-систем (red teaming для LLM, поиск уязвимостей вроде prompt injection, о которых я писал отдельно), разработка и аудит политик governance для использования ИИ в компании, специалисты, способные грамотно оценить реальную ценность ИИ-продукта при закупке СЗИ, вместо того чтобы доверять маркетингу вендора.

Это не массовая смена профессии для большинства специалистов ИБ, а появление новой, пока дефицитной ниши компетенций внутри существующей профессии. Специалист среднего уровня, который инвестирует время в изучение этой ниши сейчас, оказывается в выгодном положении на фоне коллег, игнорирующих тему до тех пор, пока она не станет обязательным требованием в каждой вакансии.

Практический совет для развития карьеры в новых условиях

Изучать конкретные, задокументированные классы уязвимостей и рисков ИИ-систем (prompt injection, отравление данных, галлюцинации модели, риски ИИ-агентов) так же системно, как изучались классические уязвимости веб-приложений или сетевой безопасности десять лет назад. Это не требует становиться data scientist или разработчиком моделей: специалисту по безопасности нужно понимание рисков и методов их тестирования, не глубокая математика, стоящая за самими моделями.

Пробовать применять существующие ИИ-инструменты в собственной рутинной работе осознанно, с пониманием их ограничений, не из страха и не из слепого энтузиазма. Личный опыт того, где инструмент реально помогает, а где создаёт ложное чувство уверенности, ценнее любой статьи на эту тему, включая эту.

Итоговая мысль

ИИ не заменит профессию специалиста по информационной безопасности в обозримом будущем, потому что ключевая ценность этой профессии: суждение в условиях неопределённости и ответственность за решения, пока не автоматизируется. Он заменит часть рутинных задач внутри профессии, и специалисты, которые осознанно адаптируют свой набор навыков к этому изменению, получат преимущество перед теми, кто предпочитает делать вид, что ничего не меняется.

Беспокоитесь, как ИИ изменит вашу карьеру в ИБ в ближайшие годы? На менторской консультации разберём конкретно вашу ситуацию, не общие прогнозы из статей.