Банк России выпустил методические рекомендации по обеспечению информационной безопасности при использовании технологий искусственного интеллекта. Это первый документ регулятора, в котором собраны основные риски применения ИИ, описаны возможные атаки на такие системы и предложены меры защиты.

В частности, если ИИ используется в критически важных процессах, например в платежах, ЦБ рекомендует подтверждать операции сотрудником.

Регулятор также советует финансовым организациям разработать собственные модели угроз и политику информационной безопасности для работы с ИИ. Ответственность за подготовку этих документов должен нести заместитель руководителя по защите информации.

Кроме того, в документе перечислены потенциальные способы хакерских атак на ИИ-системы финансовых организаций, такие как «отравление» обучающих данных и модификация алгоритма обучения, «инъекция» вредоносных данных для изменения поведения модели или «состязательные атаки», направленные на получение неверных выводов модели.

Отдельный раздел рекомендаций посвящен работе с ИИ-сервисами сторонних поставщиков. В ЦБ отметили, что наличие у провайдера модели ИИ, используемой для поиска уязвимостей, повышает уровень доверия к такому сервису.

Источник: Банк России