Финансовая сфера

Банковское обозрение


21.12.2020 Best-practiceFinRegulationFinTech
Проблемы этики при использовании персональных данных

Вопросы киберэтики затрагивают не только персонал, который имеет доступ к персональным данным, но и «поведение» сервисов, основанных на ИИ


Готовимся «к послезавтра» 

Для развития продуктов и сервисов на основе обработки массива клиентских данных сегодня организации недостаточно соблюдать требования законодательства в области защиты персональных данных. 

Еще несколько лет назад некоторые инновационные способы обработки данных казались невозможными. Но уже сегодня никого не удивить такими технологиями, как профайлинг, контекстная реклама, или предложением индивидуализированных услуг и сервисов с предсказанием потребностей.

Однако эти технологии порождают и потенциальные угрозы. Так, все чаще медицинские заключения формируются с использованием технологий машинного обучения. Например, при использовании приложений о здоровье собираются такие чувствительные данные, как наследственные заболевания, возраст, пол, история болезни, сведения об образе жизни человека (вредные привычки, подвижность) и т.п. Эта информация не составит злоумышленнику труда идентифицировать конкретного человека и использовать данные о его проблемах со здоровьем в своих интересах. 

Другой пример — технология искусственного интеллекта (ИИ). Очевидно, что по объему потенциальных угроз она не сравнится ни с одной другой, поскольку системы, построенные на ее основе, способны самостоятельно принять решение в отношении человека, а также анализировать данные с такой неочевидной логикой и скоростью, что зачастую невозможно проверить верность принятого решения. 

Помимо традиционных киберугроз технологии порождают проблемы в другой, менее формализованной области — в цифровой этике. 

Цифровая этика

Отправной точкой отношения к вопросу конфиденциальности частной жизни считается статья американских юристов Сэмюэля Уоррена и Луиса Брандейса «The Right to Privacy» («Право на неприкосновенность частной жизни»), опубликованная в 1890 году в журнале Harvard Law Review. Именно в 1890-е широкое распространение получили фотопленки и первая компактная фотокамера фирмы Eastman Kodak. С этими разработками связано стремительное развитие желтой прессы — в те годы право практически никак не регулировало раскрытие информации о частной жизни человека. Итак, Уоррен и Брандейс определили понятие «privacy» как «right to be let alone» — буквально «право быть оставленным в покое». «Приватность с этической и моральной точки зрения», пишут они, — это нечто «важнейшее для чувства собственного достоинства, индивидуальности, независимости», то есть «существует в жизни человека область, находящаяся под его контролем, свободная от вторжения извне». Более того, в статье был сделан вывод о том, что лишение человека приватности личной жизни может поставить под угрозу его здоровье. Статья Уоррена и Брандейса оказала колоссальное влияние на развитие законодательства того времени.

Создатель понятия «кибернетика» Норберт Винер в своих произведениях понятие «киберэтика» не использовал, однако был уже максимально близок к нему и заложил принципы взаимодействия людей и машин, которые нам сейчас кажутся очевидными:

  • автоматизация усиливает человеческую мощь и освобождает людей от повторяющейся рутинной работы;
  • вычислительные машины не могут и не должны самостоятельно порождать полезные результаты, они — лишь инструмент для переработки данных. Извлекает полезную функцию всегда человек;
  • вычислительная машина должна обеспечивать режим интерактивного взаимодействия с пользователем;
  • компьютеры будут одним из важнейших средств коммуникации человечества.

Поскольку технологические гиганты способны выстраивать корреляции, которые сам человек еще не успевает осознать, понятие «киберэтика» важно как никогда раньше. Несмотря на кажущиеся «открытость» и «бесплатность» пользовательских данных, технологические компании готовы предоставлять любые услуги пользователям бесплатно или с большим дисконтом, чтобы получать персональные данные на постоянной основе. Это приводит нас к «инфляции приватности», когда с каждой новой услугой или улучшением сервиса от пользователя требуется предоставить доступ ко все большему объему персональных данных. 

Важно, что технологические инновации и связанные с ними общественные отношения возникают быстрее, чем издаются соответствующие правовые нормы, поскольку технологии не смогли бы развиваться, опираясь на существующее законодательство, в соответствии с которым корпорации и их клиенты делали бы только то, на что они уполномочены или к чему они обязаны.

Очевидно, что та или иная корпорация, формально соблюдая все требования закона, злоупотребляет как несовершенством законодательства, так и своим технологическим преимуществом перед пользователем, предоставляя услугу в виде «черного ящика».

В долгосрочной перспективе в выигрыше окажутся те компании, которые приняли для себя методологию этичного использования данных в качестве дополнительных обязанностей — помимо установленных законом требований в области защиты и обработки персональных данных. 

Формирование методологии этичного использования персональных данных

Говоря о методологии этичного использования данных, мы имеем в виду именно подходы, а не готовые решения, поскольку цифровая этика находится в стадии формирования не только в России, но и в мире.

Довольно точное определение термина «этика данных» и описание основ предлагает британский документ Data Ethics Framework1 (2018) — «этика данных представляет собой формирующуюся отрасль прикладной этики, которая описывает ценностные суждения и подходы, применяемые при сборе, анализе и распространении данных. Она предполагает хорошее знание законодательства по защите данных и иного профильного законодательства, а также правильных способов применения новых технологий».

Схема формирования методологии этичного использования данных в компании

Схема формирования методологии этичного использования данных в компании

В качестве основы методологии киберэтики могут быть заложены отраслевые документы — профессиональные кодексы этики, которые присутствуют в медицине, юридической, банковской деятельности и т.п., ведь разработка единого и универсального кодекса этики вряд ли возможна в обозримом будущем. Как правило, такие документы содержат следующие положения:

  • ответственность участников отрасли перед обществом;
  • деловая репутация выше сиюминутной прибыли;
  • уважение и тактичность в отношениях с партнерами и клиентами;
  • недопущение недобросовестных практик конкуренции.

Необходимо перестроить взаимодействие с клиентами, перейдя от асимметричных информационных отношений (так называемая проблема людей с большими компьютерами, под которыми понимаются технологические гиганты, и людей с обычными компьютерами — их клиентов) к симметричным. Для этого удобно использовать методологию управления риском поведения (conduct risk). 

Deloitte пишет, что conduct risk — это риск использования компанией недобросовестных практик, когда для получения дополнительного объема персональных данных клиентов используются такие приемы, как мелкий шрифт, запутанность условий договоров, навязывание ненужных услуг, введение клиента в заблуждение.

Для минимизации данного риска компания должна руководствоваться следующими принципами:

  • достоверность и полнота раскрытия информации;
  • недопущение недобросовестной передачи или перепродажи клиентских данных;
  • отсутствие барьеров для выхода из использования продукта или услуги.

Одним их самых ярких примеров, демонстрирующих важность киберэтики, стала имплементация фреймворка «Privacy by Design» (PbD) в ст. 25 GDPR. PbD исходит как раз из описанной выше мысли, что в будущем конфиденциальность не может быть обеспечена исключительно соблюдением нормативно-правовых актов. Защита личной информации должна в идеале стать одним из наиболее важных приоритетов в работе любой организации.

Принципы проектируемой конфиденциальности применимы ко всем типам личной информации, но в особенности — к медицинской или финансовой. Кратко напомним содержание этих семи принципов:

  • Proactive not reactive; preventive not remedial — превентивные меры, а не только устранение последствий. Персональные данные должны быть защищены до того, как система будет запущена в промышленную эксплуатацию;
  • Privacy as the default setting — конфиденциальность как стандартная установка. В продукте изначально должны быть выставлены необходимые настройки, от пользователя не должно требоваться никаких дополнительных действий;
  • Embedded into design — конфиденциальность как часть структуры. Требование к защите личной информации — не опция, не дополнение, а неотъемлемая часть проектирования системы;
  • Full functionality — positive-sum, not zero-sum — полная функциональность с суммарным положительным результатом. В результате ваших мероприятий по защите приватности пользователей выигрывают обе стороны. 
  • End-to-end security — full lifecycle protection — защита личной информации на протяжении всего цикла ее сбора, хранения, обработки и уничтожения; 
  • Visibility and transparency — keep it open — доступность и открытость. Гарантировать всем, что система действительно работает в соответствии с заявленными функциями и целями. Все операции с персональными данными понятны пользователю и не скрываются от него;
  • Respect for user privacy — keep it user-centric — соблюдение конфиденциальности пользователей: система должна быть ориентирована на пользователя. Своевременно уведомлять о сборе личной информации, объяснять все положения в удобной и понятной форме.

Важно заранее закладывать не только этическое поведение людей, но и «поведение» сервисов, основанных на технологиях ИИ. Принципы этичного использования ИИ описаны в документах «Asilomar AI principles», «AI Declaration», а также документе, определяющем стратегическое планирование развития ИИ в России — «Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года», утвержденная распоряжением Правительства Российской Федерации от 19 августа 2020 года № 2129-р. 

Общим способом снижения рисков в сфере оборота данных является повышение цифровой грамотности работников. До работников также необходимо доводить информацию о том, как именно компания реализует приверженность указанным выше правилам и нормам.

Этика использования данных — конкурентоспособный инструмент для бизнеса

Когда-то к таким технологиям, которыми владели не все предприниматели, относились деревянные корабли и морская навигация, потом их сменили паровые машины и станки для точной обработки металла, им на смену пришли микропроцессоры и операционные системы. В наши дни к факторам конкурентоспособности относятся в первую очередь инструменты обработки больших массивов данных.

Корпорации еще никогда не имели таких серьезных рычагов для управления потребностями клиентов на основе больших объемов клиентских данных. Это создает огромные возможности для анализа и прогнозирования, но также и порождает угрозы и риски вмешательства в частную жизнь. Развитие общественной мысли и законодательства в области приватности заключается в создании методологии этичного использования данных со стороны бизнеса. При этом методология должна учитывать как интересы общества, так и потребности рынка. Очевидно, что компании не могут предусмотреть все этические риски и преодолеть их, но они должны сделать этические принципы контроля данных и оказания цифровых услуг своим приоритетом на ближайшее будущее.


1. https://www.gov.uk/government/publications/data-ethics-framework






Сейчас на главной

ПЕРЕЙТИ НА ГЛАВНУЮ