ИИ встраивается в управление рисками, аналитику и прогнозирование, клиентские коммуникации, документооборот, IТ-разработку и другие чувствительные для бизнеса процессы. Растет интерес участников рынка к более сложным решениям, включая ИИ-агентов.

Для финансовой организации это означает не только рост эффективности, но и появление дополнительной категории рисков. Ошибка модели, утечка данных, непрозрачное решение, зависимость от внешнего поставщика, неверная настройка — все это может трансформироваться для финансовой организации в претензии клиентов, Банка России, убытки, репутационный вред.

Именно поэтому внедрение ИИ в финансовой организации нельзя рассматривать как вопрос исключительно IТ-департамента. Это вопрос внутреннего контроля, распределения ответственности, разумности и добросовестности менеджмента по выстраиванию внутренней системы контроля за внедрением и использованием ИИ.

В случае существенного ИИ-инцидента будет оцениваться не только сам факт ошибки, но и то, как именно была выстроена система управления рисками вокруг ИИ: проводилась ли предварительная оценка, были ли ограничения, кто принимал решение о запуске, как велся мониторинг использования ИИ, фиксировались ли инциденты, могла ли финансовая организация разумно предотвратить ущерб.