В подготовке исследования АФТ «10 трендов ИИ» учувствовали эксперты из ВТБ, Альфа-Банка, «Ростелекома», «Газпром нефти», VisionLabs, Сколтеха и МГТУ им. Баумана. Своим взглядом на развитие рынка в условиях эволюции технологий специалисты поделились на презентации 19 июня 2024 года. В первую очередь дискуссия коснулась вопросов безопасности.

Опыт стран СНГ показал кейсы использования ИИ при работе с биометрией в недобросовестных целях. Там множество банков обслуживают клиентов без отделений и без мобильных приложений, по специальной видеосвязи. В этом направлении уже зафиксировано использование технологии дипфейк, рассказал на презентации Дмитрий Марков, исполнительный директор МТС AI.

Дмитрий Марков (МТС AI). Фото: АФТ

Механика проста: мошенники получают фотографию клиента банка, подбирают похожего человека, устанавливают сеанс видеосвязи, успешно проходят проверку, а затем просят изменить номер телефона, куда приходит СМС-подтверждение. Так высокотехнологичные аферисты получают возможность оформить, например, микрокредит. Поэтому, подчеркнул Дмитрий Марков, в развитии биометрических технологий выходит на первое место не идентификация или верификация, а именно защита от биометрических атак.

Источник: Ассоциация Финтех

В России безопасности работы банков с ИИ уделяется большое внимание, однако в инструкциях часто прослеживается некоторый антагонизм. Одним из таких примеров поделился начальник управления процессов и стандартов моделирования и машинного обучения департамента анализа данных и моделирования ВТБ Юрий Карев. Как банк c госучастием ВТБ должен особенно усердно выполнять распоряжения: «При разработке моделей у нас должен быть определенный контур, в котором могут сидеть разработчики. В этом контуре запрещено иметь чувствительные данные, то есть, по-хорошему, там не должно быть персональных данных, банковской тайны и так далее. Поэтому сидите, разрабатываете по ТЗ на “синтетике”, — рассказывает представитель банка. — Мы все требования стараемся выполнять фактически буквально, такова культура компании с госучастием. Окей, теперь берем разработку регуляторной модели, тоже требования регулятора: модель запрещено разрабатывать на искаженных данных. А как нам быть в этом контуре, если там нет данных? Нам говорят: обезличиваете. Но это прямое противоречие». В этом ключе подход к безопасности требует некого конструктива, применить все многообразие требований невозможно.

Юрий Карев (ВТБ). Фото: АФТ

Другой аспект работы с искусственным интеллектом — доверие. По словам Юрия Карева, пример недоверия — запретить использовать GPT в рабочих процессах: «Не надо генерировать служебные записки с помощью ChatGPT». Но это одна крайность, а другая заключается в том, что ИИ может глючить. Например, «Макдоналдс» прекратил испытание системы ИИ при распознавании голоса для обработки заказов. В соцсетях появлялись видеоролики о неправильно понятых указаниях: в одном случае мороженое было украшено беконом, в другом к заказу добавили куриные наггетсы на 211 долларов. Возможно, в этих ситуациях клиент не совсем корректно озвучивал заказ, однако тут встает вопрос ответственности. «Языковая модель ведет себя человекоподобно. В житейском разговоре люди тоже говорят не подумав. Но когда человек оказывается на работе и выполняет свои служебные обязанности, он может ответить: “Я не знаю, мне надо проверить”.

Нужно сделать фокус на том, чтобы обучить модель отвечать: “Мне нужно верифицировать”, “Мне недостаточно данных”», — заявил спикер.

Также Юрий Карев пояснил, как выглядит на практике участие государства в развитии рынка ИИ: «С регуляторной точки зрения государство рекомендует ставить показатели эффективности. Например, количество процессов, которые охвачены искусственным интеллектом, объем инвестиций, доля объема инвестиций в искусственный интеллект относительно общего цифрового развития, объем инвестиций в исследования. Пока это все индикативные вещи, мы к этому оказались готовы».

При этом бизнес и сам готов «толкать» технологию вверх. В ключе внедрения новых бизнес-моделей интересен тренд на развитие ИИ-авторов в Китае, рассказала Ольга Сорокина, член совета директоров ВСК. Цифровые стримеры стали популярны с конца 2023 года, однако многие исследования в этой области говорят про e-com и ретейл, но в Китае в топ-3 сфер по применению ИИ входит финтех. То есть и банковская, и страховая отрасли активно используют ИИ-авторы, подчеркнула представитель ВСК. Цифровой двойник страхового агента также эффективно может рассказать об особенностях страхового полиса и ответить на вопросы клиента. Вопрос в том, считает Ольга Сорокина, кто сможет первым на российском рынке применить технологию и на ней продавать.

Ольга Сорокина (ВСК). Фото: АФТ

На нынешнем же этапе развития ИИ в России бизнес активно использует языковые модели. «Сейчас “генеративка” на хайпе, последние полтора года все стараются ее внедрить где надо и где, может быть, даже не очень надо», — заявил Вадим Аюев, руководитель дирекции моделей и методов продвинутой аналитики Альфа-Банка. Ключевое в этой технологии — текст. Любые задачи, где на выходе текст, могут быть решены, автоматизированы, улучшены. В каждой крупной организации есть большое подразделение с дорогими кадрами — айтишники. Поскольку инструментом у них является исходный код, генеративные модели ИИ могут быть вполне полезны. В Альфа-Банке был открыт большой проект, посвященный инструментам и применению ИИ к деятельности разработчиков, рассказал Вадим Аюев. Это и классические решения, автоматизация тестирования, и другие вопросы, которые позволят улучшить разные аспекты труда IT-специалистов. Банк планирует поделиться результатами проекта в первой половине 2025 года.

Вадим Аюев (Альфа-Банк). Фото: АФТ

В развитии ИИ, по мнению Вадима Аюева, следующий технологический скачок находится в плоскости Auto ML (автоматизированное машинное обучение). «Мы понимаем под Auto ML что-то, что состоит из двух фундаментальных вещей. Первое — возможность обучить модель: нажал на кнопочку, на выходе получил достаточно хорошую модель, — пояснил спикер от Альфа-Банка. — Второе — возможность ее деплоить [перевести исходный код в рабочее состояние на конкретном сервере. — Ред.]. Иногда интегрировать модель в продакшн-контур сложнее, чем ее разработать. Точно дороже, сложнее, дольше». У Альфа-Банка уже существуют успешные кейсы, сейчас происходит тестирование Auto ML для нейросетей, до конца года должны появиться ощутимые результаты. «С практической точки зрения нам это даст, во-первых, повышение качества разработки. Это значит, что организация получит больше денег, потому что наша модель будет круче. Во-вторых, это снизит потенциально уровень входа. Я пока не говорю про no-code-подход [способ создания IT-продуктов без написания кода с помощью специальных платформ. — Ред.], кажется, что мы там будем относительно нескоро, но дать возможность всем нашим контрагентам в банке базово поработать с различными модельными решениями — это очень правильный вектор», — подчеркнул Вадим Аюев.

А вот появление сильного ИИ эксперты поставили под сомнение. По мнению директора Центра продвинутой аналитики Альфа-Банка Алексея Каширина, вокруг генеративного искусственного интеллекта возникает, с одной стороны, конструктивная, многообещающая работа, а с другой, надувается некий пузырь.

«Я, честно говоря, не вижу, чтобы текущие решения в области искусственного интеллекта приближали нас к сильному искусственному интеллекту. Но кажется, сейчас про это говорить немодно», — заявил эксперт.

Алексей Каширин (Альфа-Банк). Фото: АФТ

Госконтроль в сфере ИИ в целом не очень строгий. «У государства есть понимание, что если мы это зарегулируем, то можем приостановить развитие стратегических технологий», — отметил Юрий Карев. При этом в самих госорганизациях новые идеи развиваются неторопливо, что проиллюстрировал Павел Строганов, представитель МГТУ им. Баумана: «Все эти замечательные тренды, генеративный ИИ — как глоток свежего воздуха для нас, для инженеров, которые находятся глубоко под землей, там, где пласты государственного управления спрессованы настолько, что вода течет туда, куда надо, и ровно тогда, когда надо. И все идеи, связанные с новыми трендами, очень тяжело и сложно внедряются».

Павел Строганов (МГТУ им. Баумана). Фото: АФТ