Банковское обозрение

Сфера финансовых интересов

  • AI: последнее изобретение человечества?
24.10.2018 Аналитика
AI: последнее изобретение человечества?

В рамках Finopolis-2018 состоялась сессия «Эпоха искусственного интеллекта (AI): прибыль vs этика». Модератором выступил управляющий директор блока «Стратегия. Инновации. Маркетинг» Банка «Ак Барс» Илья Вельдер



Технологией с самым большим потенциалом опрошенные чаще всего называют искусственный интеллект. Обработка и анализ данных в этом году переместились на второе место. Однако только 37% компаний внедрили или собираются в ближайшее время внедрить технологии искусственного интеллекта. Об этом сообщают аналитики Gartner.

При этом издание CNews буквально перед началом работы Форума выпустило статью «Вытеснение человека. Искусственный интеллект в бизнесе будущего», автор которой хлестко написал: «Мы привыкли считать интеллект исключительным свойством человека. Поэтому неточный перевод выражения artificial intelligence на русский наделяет компьютер ненужной антропоморфностью и сбивает с толку. Возможно, правильнее было бы вместо слова «интеллект» использовать слова «интеллектуальное поведение» или «умение рассуждать разумно», а вместо «искусственного интеллекта» говорить о чем-то вроде «интеллектуальных систем».

Неслучайно, главными вопросами обсуждения на Сессии стали такие темы «Что такое на самом деле AI», «Роль человека в эпоху искусственного интеллекта», «Искусственный интеллект: выгоды и риски», а также «Этика AI».

Следы AI в соверменном бизнесе

«А нужен ли нам вообще AI? Какие преимущества на сегодня он может дать бизнесу?», — предложил модератор участникам панельной сессии первые вопросы для коллективного обсуждения.

 

Секция № 2. Эпоха искусственного интеллекта: прибыль vs этика. Слева направо: Аллан Харпер (IBM), Рон Раффенспергер (Huawei), Джордж Хелд («ВымпелКом»), Максим Еременко (Сбербанк), Алексей Натёкин (Data Souls) и Дмитрий Красюков (SAP СНГ). Фото: Вадим Ференец / «Б.О»

Секция № 2. Эпоха искусственного интеллекта: прибыль vs этика. Слева направо: Аллан Харпер (IBM), Рон Раффенспергер (Huawei), Джордж Хелд («ВымпелКом»), Максим Еременко (Сбербанк), Алексей Натёкин (Data Souls) и Дмитрий Красюков (SAP СНГ). Фото: Вадим Ференец / «Б.О»

 

Аллан Харпер (руководитель подразделения по когнитивным решениям для глобальных финансовых услуг IBM), взявший в руки микрофон, назвал три области применимости AI — формирование положительного клиентского опыта, персонализация взаимоотношений с контрагентами, а также область принятия решений. Еще AI интересен как интеграционное звено между фронт- и бэк-офисными бизнес-процессами.

 

Аллан Харпер, IBM. Фото: Артур Лебедев / Росконгресс

Аллан Харпер, IBM. Фото: Артур Лебедев / Росконгресс

 

«Сегодня, наверное, уже не стоит вопрос: нужен ли нам AI или нет? Он нужен и уже широко применяется. Вопрос в другом: как не допустить им принятия решения на основе принципа отрицания? Кроме того, AI и мы вместе с ним находимся в самом центре цифровой революции, а это грозит бизнесу глобальным изменением бизнес-процессов по сравнению со всеми предыдущими технологическими революциями. Насколько мы сами готовы к таким переменам?», — продолжил тему Аркадий Сандлер (руководитель направления «Искусственный интеллект» сотового оператора МТС).

 

Аркадий Сандлер, МТС. Фото: Артур Лебедев / Росконгресс

Аркадий Сандлер, МТС. Фото: Артур Лебедев / Росконгресс

 

По словам Рона Раффенспергера (технического директора департамента маркетинга корпоративных ЦОД и продаж технических решений Huawei), AI дает возможность полностью изменить характер взаимоотношений клиентов и компаний, сделав его прозрачным.

 

Рон Раффенспергер, Huawei. Фото: Артур Лебедев / Росконгресс

Рон Раффенспергер, Huawei. Фото: Артур Лебедев / Росконгресс

 

«Применимость AI в бизнесе была определена несколько лет назад, его элементы используются повсеместно и каждый день. Например, примерно 60% звонков в наш колл-центр обрабатываются программными роботами. “Репутационный движок” компании тоже работает на искусственном интеллекте», — привел свое мнение Джордж Хелд (вице-президент по развитию цифрового и нового бизнеса «ВымпелКома»).

 

Джордж Хелд, «ВымпелКома». Фото: Артур Лебедев / Росконгресс

Джордж Хелд, «ВымпелКома». Фото: Артур Лебедев / Росконгресс

 

По мнению Максима Еременко (старшего управляющего директора Сбербанка), если говорить о процессе принятия решения как менеджерской функции, то издавна это было уделом экспертов. Но если накоплен некий пул исторических данных в предметной области, то им на помощь приходит такое благо цивилизации, как AI.

 

Максим Еременко, Сбербанк. Фото: Артур Лебедев / Росконгресс

Максим Еременко, Сбербанк. Фото: Артур Лебедев / Росконгресс

 

«В случае работы с клиентом формула использования “искусственных мозгов” звучит так: как предложить “правильный” продукт “правильному” клиенту по “правильной” цене в “правильное” время?», — очень образно выразился Алексей Натёкин, (генеральный директор Data Souls, основатель и диктатор сообщества Open Data Science, организатор проекта Data Fest).

 

Алексей Натёкин, Data Souls. Фото: Артур Лебедев / Росконгресс

Алексей Натёкин, Data Souls. Фото: Артур Лебедев / Росконгресс

 

Дмитрий Красюков (исполняющий обязанности генерального директора SAP СНГ, исполнительный директор SAP СНГ) подвел итоги первой части сессии: «Существует и экономический аспект использования AI — интеллект способен сделать эти процессы дешевле. Это позволит изменить бизнес-процессы во множестве отраслей и сделать их продукцию доступнее гораздо большему количеству потребителей».

Как все начиналось и чем закончилось?

Для ответа на вопрос «Что будет?» представитель Сбербанка предложил немного углубиться в историю. Так, в начале 2000-х появилась мода на внедрение моделей оценки кредитных рисков. Кто-то внедрял актуарные модели. Кто-то изучал «Базель»: сначала первый, потом второй, сейчас третий… Поэтому наиболее зрелым направлением в AI (в прикладной математике в терминах того времени) стал риск-менеджмент. Позже появилось машинное обучение (Machin Learning, ML) c персонализацией и оптимизацией линейки продуктов, улучшением клиентского опыта и т.д. Сейчас же на первый план (по крайней мере в Сбербанке) выходят технологии обработки естественного языка для нужд колл-центров, чат-ботов и т.д. Отдельным направлением развивается использование искусственного интеллекта для обеспечения должного уровня информационной безопасности, борьбы с киберпреступностью и внутренними нарушителями.

К сожалению, спикер не стал приводить конкретных кейсов. Но пресса всегда придет на помощь. В уже упоминавшейся публикации CNews можно найти итог весьма поучительного внедрения: «Интереснейший опыт (и прибыль) получил Сбербанк от внедрения искусственного интеллекта для психологического прототипирования. Банк использовал передовую методологию Big Five профессора Стэнфордского университета Михала Косинского. Она позволяет составить психологический портрет личности и оценить его благонадежность для банка буквально по лайкам в соцсетях на основе пяти черт характера: добросовестность, открытость, общительность, законопослушность и эмоциональная устойчивость. В прошлом году технология дала Банку чистую прибыль 50 млн долларов».

Во всем описанном наблюдается эволюционный характер развития, ожидать революции нет смысла: будущее с технологической точки зрения выглядело относительно ожидаемо. Но вот упоминание Максимом Еременко нарастающего вектора применения AI в департаменте HR кардинально нарушило размеренный ход дискуссии и поставило вопрос ребром: «Что будет дальше с AI? Не последнее ли это изобретение человечества?»

О чем шла речь? Совсем недавно Агентство Reuters сообщило (в интерпретации CNews): специалисты по ML компании Amazon обнаружили, что AI, который обрабатывает резюме кандидатов на должности в компании, дискриминирует женщин-соискателей. Эта особенность не закладывалась в систему умышленно — она стала результатом машинного обучения.

Разработчики создали 500 компьютерных моделей для разных должностных обязанностей и географических локаций. Каждая модель была обучена распознавать около 50 тыс. слов-сигналов, которые присутствовали в резюме соискателей.

Примечательно, что механизм игнорировал слова, обозначающие навыки, которые часто прописаны в резюме IT-специалистов, такие как умение писать различные коды и т.п. Вместо этого система отслеживала, например, типичные для мужской речи глаголы в самоописании кандидатов, вроде «выполнил» (executed) или «захватил» (captured), поскольку они регулярно встречались в старых резюме, на которых училась машина. С таким подходом гендерная дискриминация была не единственной проблемой — механизм зачастую рекомендовал на должность людей, не обладающих нужными навыками.

В итоге Amazon с позором закрыла этот проект, извинилась, но «осадочек» остался. Что показал этот кейс? Инженерам стало ясно, что безоговорочно доверять AI нельзя. Необходимо создавать не менее сложные системы контроля. К чему может привести совместная работа AI и ее контроллера, никому не известно. И это только вдруг открывшаяся вершина айсберга.

Что касается людей-менеджеров, то у них по всему миру встал не менее острый вопрос: кто будет отвечать за последствия решений, принимаемых AI? Что победит в итоге: прибыль или этика? Ответа пока нет. Поэтому дискуссия продолжится.