Финансовая сфера

Банковское обозрение


  • К использованию GPT надо подходить с умом
25.12.2023 FinSecurityFinTechАналитика

К использованию GPT надо подходить с умом

Об областях применения GPT-моделей в финансовой сфере «Б.О» рассказал Алексей Хахунов, сооснователь компании Dbrain и автор курса про нейросети prompting.one


Алексей, считается, что GPT вполне подходит для банковского онбординга. Для каких еще целей разумно использовать данную технологию?

— Действительно, GPT-модель с легкостью поможет персонализировать онбординг. Модель создаст уникальные сценарии приветствия и общения с клиентами: от велкам-сообщений до интерактивных чат-ботов, которые могут проводить клиентов через процесс регистрации. С таким же успехом GPT может использоваться для автоматической обработки запросов клиентов в чат-системах или по электронной почте. Еще варианты: использование модели для обучения сотрудников и создания индивидуальных сценариев обучения — в общем, все, что связано с генерацией контента. Помните, что при использовании GPT для банковского онбординга нужно уделить чуть больше внимания безопасности и конфиденциальности данных. Хранение и обработка чувствительной информации должны соответствовать высоким стандартам безопасности, чтобы предотвратить утечку или несанкционированный доступ к данным клиентов.

Алексей Хахунов, сооснователь компании Dbrain и автор курса про нейросети prompting.one

Алексей Хахунов, сооснователь компании Dbrain и автор курса про нейросети prompting.one

Но к использованию GPT надо подходить с умом. Например, недавно произошла смешная история. Человек обнаружил, что у Chevrolet в чат поддержки встроен GPT. Он, зная, как общаться с моделью, принудил ее сделать ему официальный офер с продажей автомобиля за один доллар. И модель это сделала! Поэтому будьте осторожны с использованием моделей в поддержке, не давайте им возможности принимать в подобных вопросах итоговые решения, если они специально под это не настроены. С помощью специального промта поддержку можно защитить, и модель не будет продавать «вас» за один доллар. Но если просто вставить GPT в чат и сказать «Общайся», для компании это может закончиться не очень хорошо.

Как происходит защита персональных данных и банковской тайны?

— Можно защитить персональные данные, которые уходят из компании, в любых моделях, если поставить на вход модель, которая называется NER (Named-entity recognition). Она может находить в вашем запросе данные человека — имя, фамилию, банковские реквизиты и т.д. — и обезличивать их. То есть вместо «Иванов» она напишет «Фамилия», вместо «Иван» — «Имя», вместо номера банковской карты — «card number». Это позволяет полностью защитить персональные данные, а самой модели будет намного легче работать с обозначением категории данных (фамилия), чем с самими данными (Иванов), так как ей не придется каждый раз обрабатывать новую информацию.

Есть говорить про GPT-модель от компании OpenAI и подобные ей модели, то там нужно внимательно читать, что написано в условиях использования. У большинства моделей в условиях написано, что они никаким образом не переиспользуют и не сохраняют загружаемые в них данные. А иногда вы можете перестраховаться и просто явно запретить модели использовать ваши данные для переобучения — тогда они будут в полной безопасности.






Новости Релизы
Сейчас на главной

ПЕРЕЙТИ НА ГЛАВНУЮ