Банковское обозрение

Финансовая сфера

  • О сложностях внедрения искусственного интеллекта
15.01.2019 Best-practice
О сложностях внедрения искусственного интеллекта

Еще тогда, когда искусственный интеллект еще не стал очевидным трендом, команда Marketing Logic внедрила эти технологии в одном из крупнейших банков России


Дмитрий Галкин
Управляющий партнер Marketing Logic

Аналитическая компания и банк вместе начали строить полноценную систему управления бизнес-процессами с помощью ИИ сначала в маркетинге, затем подключили управление сетью, потом HR. С точки зрения внедрения современных технологий это был один из самых впечатляющих кейсов в России. С начала внедрения прошло уже больше четырех лет, и этот опыт позволяет рассказывать не только об этапе внедрения, но и со 100%-ным знанием дела рассказать о том, какие победы и проблемы возникают дальше.

Естественное внедрение искусственного интеллекта

Внедрение систем с элементами искусственного интеллекта вызывает бурю эмоций, поскольку затрагивает все уровни сотрудников: от рядовых до высшего менеджмента. Первая эмоциональная реакция — это часто отторжение. Для большинства искусственный интеллект — это черный ящик. Человек не всегда понимает, почему был выявлен плохой или хороший результат, как была определена закономерность, какие факторы учитывались в большей степени, какие — в меньшей.

Худший вариант внедрения ИИ — революционным методом, когда у коллектива нет ни его понимания, ни принятия

Еще на старте разработки технологии мы консультировались со специалистами, в том числе с психологами, как повысить доверие человека к машине. Ответ был простой — система должна заработать авторитет, а для этого нужно понимание большинством сотрудников принципов работы ИИ. Задача довольно сложная. Объективно мы не могли сделать из всех сотрудников программистов, аналитиков и специалистов по машинному обучению, поэтому рядом с основным ядром ИИ мы создавали «маленького брата», который понятно объяснял принятое решение в понятных метриках на основе тех фактов, которые не вызывают недоумения или отторжения у человека. Это существенно сократило время внедрения и сняло многие возражения, так как большинство сотрудников видели основные этапы работы системы, и это укладывалось в привычные для них логику и алгоритмы принятия решений. При этом разработчики понимали, что это не единственные условия, которая система учитывает. Решения часто так точны именно потому, что учитываемых факторов огромное количество, в том числе тех, которые человек не берет в расчет из-за кажущейся незначительности. Машинное обучение их все равно обрабатывает, и эти выявленные закономерности тоже оказывают влияние на конечный результат и делают его максимально точным.

Скорость и этапы внедрения

Худший вариант внедрения ИИ — революционным методом, когда у коллектива нет ни его понимания, ни принятия. Это вопрос доверия к продукту внедрения и команде, которая его привносит. Мы понимали, что не можем мгновенно изменить годами складывавшуюся практику и заставить опытных специалистов прислушиваться к решениям машины. Это породило бы конфликт и стало бы существенной преградой для внедрения. Поэтому была разработана плавная, поэтапная схема внедрения. В первый год, например, мы внедряли «систему рекомендаций» и очень четко позиционировали их как «не вместо, а в помощь», чтобы не сформировать отношения «человек против машины» и прийти к более продуктивной модели «машина помогает человеку, и наоборот». В этом случае люди начинают привыкать к ИИ, смотрят, как он предлагает рекомендации, начинают находить удобства для себя.

Когда сотрудники начинают работать в полностью цифровой среде, вся совокупность их действий доступна для наблюдения ИИ и формирует уникальную витрину данных для обучения. По качеству такая база несравнимо выше, чем обычные данные, привычно выгружаемые для построения статистических моделей. Это позволяет гораздо быстрее и точнее выделять лучшие практики у сотрудников и включать их в рекомендации.

У кого учиться?

Еще один вопрос, возникающий после внедрения систем искусственного интеллекта в бизнес-процессы и непосредственно связан с тем, что мы обсуждали выше: «У кого и на ком система должна учиться?». На первых этапах после внедрения ответ очевиден — это история работы организации за год-два-три до внедрения. Далее — на лучших сотрудниках. Но если система рекомендаций работает уже два-три года, то возникает следующая ситуация:

• система прошла несколько итераций обучения, и рекомендации стали «умнее»;

• для сотрудников генерировать «лучшие практики» становится сложнее;

• растет уровень согласия с рекомендациями системы, т.е. сотрудники все чаще соглашаются с ИИ и подтверждают то, что совет системы «хороший»;

• уровень эмоционального недоверия к системе со стороны сотрудников снизился.

На этом этапе возникает довольно известная в статистике ситуация — смещение выборки. Перестают поступать новые данные для обучения. Система замыкается в себе и потенциально может упускать новые возможности. Обычный метод — это выделение определенной доли активностей, в которых сотрудники должны идти против системы. Но по мере обучения системы вы видите, что обычным сотрудникам все сложнее формулировать и реализовывать новые успешные практики. Поэтому в данном случае была рекомендация создавать специальные команды сотрудников, являющихся экспертами в процессе и в то же время способных к поиску новых возможностей.

Почему внедрение искусственного интеллекта неизбежно? Что делать сотрудникам?

Еще одна важная вещь, создающая сложности при внедрении искусственного интеллекта, — это то, что сотрудники видят в нем конкурента, и небеспочвенно. Любая автоматизация приводит к тому, что рекомендательная система работает со временем лучше сотрудников, что существенно экономит деньги компании, но создает риск для определенных групп работников.

В конкуренции с повсеместно внедренным ИИ будет ряд факторов, влияющих на дальнейший успех: выиграет тот, кто сохранит экспертную группу способной генерировать для него новые решения

Рано или поздно им нужно будет обогащать свои знания умением работать с искусственным интеллектом, а сам рынок труда тоже трансформируется: тех, кого можно с легкостью заменить, уйдут, но нужны будут новые кадры из тех, кто будет работать с новейшими технологиями, заниматься их внедрением, обучением, поддержкой. Это уже происходит: не так давно Герман Греф заявил о том, что Сбербанк перестает брать на работу юристов, у которых нет понимания принципов работы с нейронной сетью. И это лишь один частный пример профессии.

Почему так происходит? Ответ банален — экономия. Внедрение таких систем выгодно работодателям. Например, по данным WEF, четыре года назад три крупнейшие компании Детройта и три крупнейшие компании Кремниевой долины имели сопоставимые доходы, но в последних работало в 10 раз меньше сотрудников. Легко предположить, по какому пути будет развиваться бизнес. Уже сейчас в банках, по нашим данным, большинство решений в рамках кредитных договоров принимается с учетом рекомендаций искусственного интеллекта. Кредитные организации все чаще отдают управление рисками машинам, которые обрабатывают массу документов, определяют платежеспособность клиента, риск его банкротства, выхода в просрочку, а также фрод-риски.

К 2030 году, по оценкам PwC, искусственный интеллект обеспечит 14%-процентный прирост мирового ВВП, это около 15,7 трлн долларов, то есть он станет неотъемлемой частью экономики, и нам всем нужно с этим считаться уже сейчас. Выиграет тот, кто раньше включится в игру и накопит внутренний опыт работы сотрудников в связке с ИИ.

Скорее всего, в конкуренции с повсеместно внедренным искусственным интеллектом, а это, как мы уже понимаем, вопрос времени, будет ряд факторов, влияющих на дальнейший успех: выиграет тот, кто сохранит экспертную группу способной генерировать для него новые решения, кто сможет оцифровать большее количество событий, выстроить наиболее полную витрину данных, кто сможет сформировать самую сильную команду специалистов.