При любой промышленной революции главным становится скачкообразное повышение производительности, которое могут обеспечить новые технологии. Другое дело, когда на происходящее накладываются политические, экономические и технологические циклы с их так называемыми плато застоя и долинами смерти. Здесь становится важнее эффективность.

В рассматриваемом турбулентном контексте аналитикам приходится балансировать между производительностью и эффективностью новых технологий, в данном случае ИИ в сфере информационной безопасности. Поэтому однозначно ответить на вопросы, произведет ли ИИ в сфере ИБ революцию или нет и до какой степени технологии заменят человека, теоретикам довольно сложно. Приходится ждать, когда количество перерастет в качество. А здесь главное слово — за практиками отрасли.

Что думают практики?

Целый пласт интересных мнений можно найти в эфире «AM Live» «Искусственный интеллект и нейросети в ИБ». Эксперты считают, что применение ИИ благодаря технологиями ML в кибербезопасности в промышленных масштабах началось на рубеже текущего века, с той оговоркой, что в России это случилось с лагом до пяти лет. Поэтому опасения тех, кто считает, что появится ИИ, подвинув на периферию людей, во многом беспочвенны: «Вы зря боитесь, ИИ уже здесь. Революция в какой-то мере уже состоялась. А людей все равно не хватает».

«Почему? С тех пор концептуально изменился запрос. Тогда мы говорили о повышении эффективности средств ИБ, а сегодня речь идет о резком повышении производительности. Поскольку драматически вырос объем информации, которую необходимо обрабатывать для нужд систем кибербезопасности все большему и большему количеству специалистов, невооруженным взглядом видно, что в этой работе естественный интеллект сильно проигрывает искусственному. И это все происходит на фоне острого кадрового дефицита», — утверждает Дмитрий Пудов, директор по стратегическому развитию компании NGR Softlab.

Приглашенным ИБ-практикам из банковской сферы в этой связи предложили ответить вопрос: «Так заменит ли ИИ дефицитных и ряде случаев малоэффективных людей? В каких сферах финансовой ИБ этого стоит ожидать?».

Артем Калашников, независимый эксперт, пояснил: «В каких ситуациях ИИ дает преимущество перед человеком? Только в том случае, если требуется производить большое количество вычислений и необходим лишь небольшой объем аналитики. Но никакого управляющего решения ИИ не должен осуществлять: мы не можем идентифицировать ИИ с точки зрения ответственности в рамках текущего правового поля. Все мы знаем об ошибках, совершаемых ИИ, а они порой бывают фатальными».

При этом ИИ вполне может стать причиной отказов как IT-систем, так и целых бизнес-процессов банка.

По мнению эксперта, IT-ландшафт практически любой финансовой организации представляет собой комбинацию систем старого поколения, в то время как ИИ является образцом решений нового поколения, а между ними если не целая интеграционная пропасть, то глубокая трещина в любом случае.

Одно из следствий этого — люди, IT, ИБ, а также ИИ являются неполносвязной системой, все элементы которой подчиняются различным логикам принятия решений. А кто за их последствия будет отвечать? Как в такой системе однозначно понять, почему произошли те или иные события и кто в этом виноват? Может быть, все дело в датасете, на котором обучали нейросеть? А может быть, виноват человек, который понадеялся на ИИ?

Олег Волков, директор департамента кибербезопасности банка «Зенит»: «Я вижу полезным применение ИИ, например, при расследовании инцидентов, когда необходимо перелопатить большие объемы данных в поисках каких-то закономерностей. Стандартные правила корреляции далеко не всегда позволяют достигать нужного эффекта, поэтому ИБ-офицеры не всегда могут однозначно утверждать, что то или иное событие действительно является инцидентом. В этих случаях ИИ может использоваться в роли помощника. А вот где ML, несомненно, востребован — это в процессе безопасной разработки ПО. Анализ уязвимостей в программном коде, особенно с развитием больших языковых моделей (LLM), например ChatGPT, который умеет и сам неплохо программировать, для ИИ — самое оно. В этом случае ему удастся наладить коммуникацию с командой разработчиков, которая не считает тот или иной дефект реальной уязвимостью. При обоснованных аргументах ИИ обычно они меняют свое мнение».

Руслан Ложкин, CISO Абсолют Банка: «Технологии ИИ уже давно активно используются в антифроде, при расследовании сложных атак, в конкурентной разведке — там, где требуется обработать большие объемы информации и найти некие схожие паттерны».

Где ИИ будет завтра?

На вопрос «Где ИИ будет максимально полезным?» аудитория «AM Live» без привязки к отраслевой специфике дала следующие ответы:

• для поиска в поведении сотрудников и устройств — 27%;
• для автоматизации реагирования на инциденты — 23%;
• для анализа программного кода и сетевого трафика — 23%;
• для аналитиков SOC — 12%;
• для генерации документов «бумажной» безопасности — 11%;
• в другой области — 4%.

Что касается банковского сектора, то необходимо изменить некоторые приоритеты. Многое об этом сказано в размещенной 3 апреля 2024 года на ресурсе «Кибрарий» Сбером книге «Аналитическая платформа кибербезопасности. Опыт Сбера». Масса материалов для аналитиков была озвучена в рамках форума Data Fusion , проходившего в Москве 17 и 18 апреля 2024 года и организованного банком ВТБ.

Из этих событий можно сделать основные выводы.

• Банковская сфера продолжает оставаться весьма специфичной отраслью с точки зрения обеспечения ИБ. На нее производится максимальное количество самых изощренных кибератак со стороны недружественных государств с целью нанести урон платежной инфраструктуре всей страны. С учетом различных технологических возможностей банков на первый план выходит создание инфраструктурных органов по борьбе с кибермошенничеством, например ФинЦЕРТ Банка России и «Антифрод» Главного радиочастотного центра (ГРЧЦ, входит в структуру РКН). С учетом объема данных, которые там обрабатываются, вопрос об использовании ИИ даже не возникает.
• Поскольку количество утекших персональных данных уже давно во много раз превышает количество клиентов банков, неудивительно, что наблюдается колоссального масштаба угроза обществу со стороны социальных инженеров и генеративного ИИ. Поэтому в области защиты ПДн и борьбы с мошенничеством видно начало тренда переноса защиты от утечек с периметра организаций на сторону каждого конкретного человека, оградив его от проникновения к нему нежелательной информации. Здесь ИИ должен поддержать биометрические и поведенческие технологии защиты, включая AntiFake.
• В рамках национального проекта «Экономика данных», анонсированного на форуме Data Fusion, стала окончательно понятна роль ИИ в области обеспечения безопасного обмена данными между банками. И это действительно квантовый скачок в ИБ. «Данные сегодня крайне важны для многих компаний и рынка в целом. При этом сами по себе они не имеют ценности. Ценность возникает только тогда, когда появляется продукт на основе безопасно объединенных доверенных данных, включая датасеты», — отметил заместитель руководителя технологического блока — старший вице-президент ВТБ Сергей Безбогов, говоря о новейшей разработке банка, «Криптоанклаве».

Учитывая и сказанное ранее, и новые задачи, мы можем понять, почему Банк России выбрал тактику регулирования ИИ в финансовой сфере путем разработки методологии по надзору за созданием ИИ-моделей, которая не ограничивает в используемых технологиях, но при этом учитывает и персонифицирует риски. А будет ли ИИ-революция — уже другой вопрос.