«Б.О» продолжил опрос ИБ-экспертов и посвятил финальный блок вопросов требованию о валидации результатов работы ИИ человеком в критически важных процессах при высоких рисках. Как это требование интегрировано в существующие бизнес-процессы банков?

Регулятор не требует ручного контроля

Владислав Пец, аудитор по ИБ компании «РАД КОП», рассказал: «Бизнес-процессы банков, в которых используются модели ИИ, могут быть обширны: например, от использования в SIEM-системах или в антифроде до кредитных конвейеров. Соответственно, основной задачей становится инвентаризация бизнес-процессов и определение их критичности при использовании в них моделей ИИ с установлением риска для реагирования на возникающие инциденты при автоматической работе модели ИИ».

При этом стандарты определения пороговых значений риска рассчитываются банками самостоятельно в зависимости от матрицы рисков. Это полностью коррелирует с риск-ориентированным подходом ГОСТ Р ИСО/МЭК 42001, который требует заранее определять допустимые уровни риска и сценарии перехода к ручному управлению.

«Также не стоит забывать про требования платежных систем в отношении операционных риска и надежности, которые могут повлиять на использование моделей ИИ в бизнес-процессах. В случае использования моделей в критичных бизнес-процессах банки должны обеспечить минимизацию их простоев и возможных потерь», — напомнил эксперт.

Люди одобряют около 93% запросов не глядя

Петр Шаповалов, директор по развитию бизнеса компании «Дейтерий...