Алексей Мезенцев, руководитель AI Lab ОТП Банка, выступил на «Бизнес Форс Форуме» с докладом о рисках для организаций при работе с ИИ. Он рассказал, как использовать нейросети в рабочих задачах и контролировать риски, связанные с утечками корпоративных данных.

По его словам, при работе с ИИ сотрудник передает модели материалы, необходимые для выполнения задачи. Если используется внешняя модель, данные организации могут выйти за пределы корпоративного контура. Поэтому важно заранее определить, какие данные нужны для задачи и в каком виде их можно передавать.

«Контекст для ИИ должен состоять из данных, которые необходимы для конкретной задачи и разрешены для обработки. Если есть сомнение в очистке данных или возможности их передачи, то лучше провести дополнительные консультации внутри организации до решения задачи», — отметил Алексей Мезенцев.

В качестве примера он привел анализ обращений клиентов одной компании. Данные из контакт-центра, чатов, CRM и почты сначала собираются внутри организации, после чего из них оставляют необходимые поля, очищают персональные и закрытые данные и проводят проверку ИБ. Во внешнюю LLM передается только обезличенные данные для аналитики.

Алексей Мезенцев также отметил важность актуальности: «Мы наблюдаем, что передача данных внутри в едином формате, понятном как для людей, так и для больших языковых моделей значительно ускоряет работу команд. Фактически мы перестали обмениваться внутри подразделения презентациями и таблицами, а перешли на единый с нейросетями формат md файлов, которые регулярно актуализируем».

Такой подход позволяет перейти от отдельных экспериментов с ИИ к его системному использованию в бизнес-процессах. В качестве примера он привел работу с Codex при найме специалиста в команду: обработка 40 резюме с едиными критериями и общим контекстом позволила сократить затраты времени на 60–70% и вывести лучшего кандидата в два раза сократив плановый срок закрытия позиции в банке.

Источник: ОТП Банк