Банковское обозрение

Сфера финансовых интересов

  • О сложностях внедрения искусственного интеллекта
15.01.2019 Best-practice
О сложностях внедрения искусственного интеллекта

Еще тогда, когда искусственный интеллект еще не стал очевидным трендом, команда Marketing Logic внедрила эти технологии в одном из крупнейших банков России



Аналитическая компания и банк вместе начали строить полноценную систему управления бизнес-процессами с помощью ИИ сначала в маркетинге, затем подключили управление сетью, потом HR. С точки зрения внедрения современных технологий это был один из самых впечатляющих кейсов в России. С начала внедрения прошло уже больше четырех лет, и этот опыт позволяет рассказывать не только об этапе внедрения, но и со 100%-ным знанием дела рассказать о том, какие победы и проблемы возникают дальше.

Естественное внедрение искусственного интеллекта

Внедрение систем с элементами искусственного интеллекта вызывает бурю эмоций, поскольку затрагивает все уровни сотрудников: от рядовых до высшего менеджмента. Первая эмоциональная реакция — это часто отторжение. Для большинства искусственный интеллект — это черный ящик. Человек не всегда понимает, почему был выявлен плохой или хороший результат, как была определена закономерность, какие факторы учитывались в большей степени, какие — в меньшей.

Худший вариант внедрения ИИ — революционным методом, когда у коллектива нет ни его понимания, ни принятия

Еще на старте разработки технологии мы консультировались со специалистами, в том числе с психологами, как повысить доверие человека к машине. Ответ был простой — система должна заработать авторитет, а для этого нужно понимание большинством сотрудников принципов работы ИИ. Задача довольно сложная. Объективно мы не могли сделать из всех сотрудников программистов, аналитиков и специалистов по машинному обучению, поэтому рядом с основным ядром ИИ мы создавали «маленького брата», который понятно объяснял принятое решение в понятных метриках на основе тех фактов, которые не вызывают недоумения или отторжения у человека. Это существенно сократило время внедрения и сняло многие возражения, так как большинство сотрудников видели основные этапы работы системы, и это укладывалось в привычные для них логику и алгоритмы принятия решений. При этом разработчики понимали, что это не единственные условия, которая система учитывает. Решения часто так точны именно потому, что учитываемых факторов огромное количество, в том числе тех, которые человек не берет в расчет из-за кажущейся незначительности. Машинное обучение их все равно обрабатывает, и эти выявленные закономерности тоже оказывают влияние на конечный результат и делают его максимально точным.

Скорость и этапы внедрения

Худший вариант внедрения ИИ — революционным методом, когда у коллектива нет ни его понимания, ни принятия. Это вопрос доверия к продукту внедрения и команде, которая его привносит. Мы понимали, что не можем мгновенно изменить годами складывавшуюся практику и заставить опытных специалистов прислушиваться к решениям машины. Это породило бы конфликт и стало бы существенной преградой для внедрения. Поэтому была разработана плавная, поэтапная схема внедрения. В первый год, например, мы внедряли «систему рекомендаций» и очень четко позиционировали их как «не вместо, а в помощь», чтобы не сформировать отношения «человек против машины» и прийти к более продуктивной модели «машина помогает человеку, и наоборот». В этом случае люди начинают привыкать к ИИ, смотрят, как он предлагает рекомендации, начинают находить удобства для себя.

Когда сотрудники начинают работать в полностью цифровой среде, вся совокупность их действий доступна для наблюдения ИИ и формирует уникальную витрину данных для обучения. По качеству такая база несравнимо выше, чем обычные данные, привычно выгружаемые для построения статистических моделей. Это позволяет гораздо быстрее и точнее выделять лучшие практики у сотрудников и включать их в рекомендации.

У кого учиться?

Еще один вопрос, возникающий после внедрения систем искусственного интеллекта в бизнес-процессы и непосредственно связан с тем, что мы обсуждали выше: «У кого и на ком система должна учиться?». На первых этапах после внедрения ответ очевиден — это история работы организации за год-два-три до внедрения. Далее — на лучших сотрудниках. Но если система рекомендаций работает уже два-три года, то возникает следующая ситуация:

• система прошла несколько итераций обучения, и рекомендации стали «умнее»;

• для сотрудников генерировать «лучшие практики» становится сложнее;

• растет уровень согласия с рекомендациями системы, т.е. сотрудники все чаще соглашаются с ИИ и подтверждают то, что совет системы «хороший»;

• уровень эмоционального недоверия к системе со стороны сотрудников снизился.

На этом этапе возникает довольно известная в статистике ситуация — смещение выборки. Перестают поступать новые данные для обучения. Система замыкается в себе и потенциально может упускать новые возможности. Обычный метод — это выделение определенной доли активностей, в которых сотрудники должны идти против системы. Но по мере обучения системы вы видите, что обычным сотрудникам все сложнее формулировать и реализовывать новые успешные практики. Поэтому в данном случае была рекомендация создавать специальные команды сотрудников, являющихся экспертами в процессе и в то же время способных к поиску новых возможностей.

Почему внедрение искусственного интеллекта неизбежно? Что делать сотрудникам?

Еще одна важная вещь, создающая сложности при внедрении искусственного интеллекта, — это то, что сотрудники видят в нем конкурента, и небеспочвенно. Любая автоматизация приводит к тому, что рекомендательная система работает со временем лучше сотрудников, что существенно экономит деньги компании, но создает риск для определенных групп работников.

В конкуренции с повсеместно внедренным ИИ будет ряд факторов, влияющих на дальнейший успех: выиграет тот, кто сохранит экспертную группу способной генерировать для него новые решения

Рано или поздно им нужно будет обогащать свои знания умением работать с искусственным интеллектом, а сам рынок труда тоже трансформируется: тех, кого можно с легкостью заменить, уйдут, но нужны будут новые кадры из тех, кто будет работать с новейшими технологиями, заниматься их внедрением, обучением, поддержкой. Это уже происходит: не так давно Герман Греф заявил о том, что Сбербанк перестает брать на работу юристов, у которых нет понимания принципов работы с нейронной сетью. И это лишь один частный пример профессии.

Почему так происходит? Ответ банален — экономия. Внедрение таких систем выгодно работодателям. Например, по данным WEF, четыре года назад три крупнейшие компании Детройта и три крупнейшие компании Кремниевой долины имели сопоставимые доходы, но в последних работало в 10 раз меньше сотрудников. Легко предположить, по какому пути будет развиваться бизнес. Уже сейчас в банках, по нашим данным, большинство решений в рамках кредитных договоров принимается с учетом рекомендаций искусственного интеллекта. Кредитные организации все чаще отдают управление рисками машинам, которые обрабатывают массу документов, определяют платежеспособность клиента, риск его банкротства, выхода в просрочку, а также фрод-риски.

К 2030 году, по оценкам PwC, искусственный интеллект обеспечит 14%-процентный прирост мирового ВВП, это около 15,7 трлн долларов, то есть он станет неотъемлемой частью экономики, и нам всем нужно с этим считаться уже сейчас. Выиграет тот, кто раньше включится в игру и накопит внутренний опыт работы сотрудников в связке с ИИ.

Скорее всего, в конкуренции с повсеместно внедренным искусственным интеллектом, а это, как мы уже понимаем, вопрос времени, будет ряд факторов, влияющих на дальнейший успех: выиграет тот, кто сохранит экспертную группу способной генерировать для него новые решения, кто сможет оцифровать большее количество событий, выстроить наиболее полную витрину данных, кто сможет сформировать самую сильную команду специалистов.



Читайте наши лучшие материалы Яндекс. Дзен Телеграмм