Эксперты по кибербезопасности Сбера разработали комплексную модель угроз для ИИ-систем, охватывающую все ключевые этапы жизненного цикла, от подготовки данных до интеграции в приложения. Документ доступен на портале «Кибрарий» и позволяет организациям оценить уязвимости в своих ИИ-системах и адаптировать под новые угрозы свои защитные механизмы.

Модель описывает 70 угроз, связанных с применением генеративного (GenAI) и предиктивного (PredAI) ИИ, включая свойства информации, которые могут быть нарушены, такие как конфиденциальность и целостность, и возможные последствия угроз. Для наглядности включены схемы взаимодействия объектов.

Сергей Лебедь, вице-президент Сбера по кибербезопасности, подчеркнул, что внедрение ИИ в бизнес-процессы создает новые киберугрозы, требующие системного подхода к их прогнозированию и нейтрализации. Модель учитывает опыт Сбера в повышении защищенности своих AI-моделей и лучшие мировые практики, такие как документы OWASP, MITRE и NIST.

Источник: Сбербанк