Несколько лет назад в интервью для «Б.О» Андрей Масалович (по прозвищу КиберДед), ведущий эксперт по конкурентной разведке, довольно точно подметил: «Мозг человека был инсталлирован 40 тыс. лет назад и с тех пор не апгрейдился. В нем установлен довольно старый процессор. Сознание, по моим наблюдениям, поставили в бета-версии и с тех пор ни разу не патчили. Список уязвимостей, он же список смертных грехов, опубликовали 1,5 тыс. лет назад. Потом Вселенский собор специально собрался и выявил, что главная уязвимость одна — гордыня».

А еще, участвуя в одной из конференций «Б.О» в октябре 2024 года, эксперт, на этот раз представившийся как «специалист по связям с реальностью», произнес сакраментальную фразу: «Думать — это прикольно».

Экзистенциальный кризис

И вот в мае 2025 года на организованном компанией из сферы кибербезопасности Positive Technologies киберфестивале PHDays, который в первый день работы посетили 53 тыс. человек, что сделало PHD самым крупным мероприятием по ИБ в мире, тема взаимососуществования человеческого и искусственного разума получила довольно неожиданный философский импульс.

Люди, занимающиеся ИБ, давно сформулировали непреложную истину: «Человек — это самое слабое звено любой информационной системы. А поскольку мы все живем в информационном мире, постепенно трансформирующимся в ИИ-мир, человек из слабого превращается в ненужное звено».

Продолжая эту мысль, Владимир Познер, журналист и телеведущий, модерировавший сессию «Бесчеловечные технологии: освобождение от рутины или путь к цифровому рабству?», задал экспертам простой, но в то же время, глубокий вопрос. Подоплека этого вопроса состояла в том, что, с одной стороны, развитие технологий и инноваций, несмотря на протесты и даже бунты наподобие восстания луддитов, остановить невозможно. Но этот прогресс всегда ранее сопровождался наличием мотивации у его творцов, например желанием сделать мир лучше или самому выучить иностранный язык. Старое уходило, но всегда взамен появлялось что-то новое: трактор лучше, чем лошадь, а пылесос удобнее, чем веник.

Сейчас же многие вещи и сервисы доступны бесплатно или почти безвозмездно. Взамен люди теряют сначала способность критически мыслить, поскольку нет проблемы выбора, а затем ИИ уничтожает последние остатки мотивации — он быстрее, точнее, эффективнее человека. И, наконец, система образования перестает выполнять свои функции: человеку не нужен собственный интеллект, ведь есть же искусственный. Это — с другой стороны.

Наконец, с третьей стороны, человечество (по крайней мере, значительная его часть) перестает думать о чем-то новом и с радостью соглашается с жизнью в цифровом рабстве со всеми манипуляциям, социальными инженерами и т.п. При этом сам ИИ пока не в состоянии придумать что-то новое.

В итоге вопрос Владимира Познера к банкирам и представителям ИБ звучал так: «А не кажется ли вам, что мы все — на пороге экзистенциального кризиса человечества? Не кажется ли вам, что ИИ рано или поздно решит избавиться от самого слабого и ненужного звена?»

Надежда есть. Или: есть надежда?

Что касается образования, то ответ модератору дал сам министр просвещения Сергей Кравцов: «При разработке цифровых технологий важно понимать, кто, как и для чего их будет использовать. Ребенок до 18 лет должен пройти необходимые этапы психологического развития и становления основных функций, которые делают человека гражданином».

Как не вспомнить здесь решение Вселенского собора о главной уязвимости человека — гордыне? Homo sapiens однажды решил, что именно он с пеленок является вершиной пирамиды эволюции и ему вместе с соской можно без вреда давать в руки гаджеты. Это миф. На самом деле только качественное образование способно защитить человека от цифрового рабства.

Человек должен становиться Homo sapiens постепенно, иначе манипуляторы (неважно, какие — искусственные или естественные) будут в состоянии задействовать все остальные уязвимости неокрепшего мозга и сознания. В этом — одна из причин расцвета социальной инженерии и как следствие наличия на сцене представителей банков. Но у них были и другие резоны.

В частности, Андрей Белевцев, старший вице-президент, руководитель блока «Технологическое развитие» СберБанка, считает: «Главное преимущество человечества — способность использовать технологии для усиления самих себя».

В СберБанке полагают, что ИИ не заменит людей, но люди, усиленные им, с большой вероятностью заменят людей, которые искусственным интеллектом пользоваться не умеют.

Поэтому банк ставит перед собой главную задачу — изначально закладывать в любую технологию правила безопасной работы. А вот над консенсусом в этом вопросе необходимо работать и работать!

Вячеслав Цыганов, заместитель председателя правления Т-Банка, был настроен философски: «Мы сейчас занимаемся тем, что создаем то, что придумали сами. Будучи Homo sapiens и вершиной эволюции, мы считаем главной задачей умение приспосабливаться к быстро изменяющемуся миру технологий. А вот люди разумные считают, что пора ставить вопрос о роли человека в быстро изменяющемуся мире, который меняется уже и по воле ИИ. Это фундаментальное отличие от всего того, что происходило до этого. Человек не в состоянии адаптироваться к скорости изменений, значит, он должен измениться сам».

Известно, что Всемирный банк в своем прогнозе на 10 лет говорит о таком понятии, как «некибербезопасность» — некоем гибриде «киперпанка и биоробота», а также о мире «техносатанистов» и «киберлуддитов», жгущих костры из серверов. Поэтому спикер призвал не забывать об этих прогнозах и осознанно в дискуссиях готовиться к ним.

Пора начинать

Владимир Познер отказался от столь долгосрочных прогнозов, которые умеют делать только Росстат и банкиры, и, сославшись на недавние публикации американских таблоидов, призвал готовиться к технопотрясениям, ожидаемым на горизонте двух-трех лет.

Участники дискуссии (не без исключений, но в целом) согласились с тем, что необходимы и кодекс этики разработчиков ИИ, и ускорение научных разработок в этой области, в частности в сфере вооружений.

А что делать с самим человеком? Наверное, имеет смысл согласиться с КиберДедом и провести первый за 40 тыс. лет апдейт мозга Homo sapiens. Один из вариантов при наличии полноценного кодекса этики — трансгуманизм на основе взаимодействия на уровне нейронных связей мозга и машины. Технически эта задача реализуема, пример того — управление бионическими протезами посредством нейроинтерфейсов. Есть, конечно, и другие варианты. Времени, если верить модератору, осталось года два-три, надо с чего-то начинать!

А что же сам Андрей Масалович? Он выступил с докладом, в котором рассказал о мире, «где ИИ уже интегрирован в повседневную жизнь»: «Каждый наш шаг оставляет цифровой след, который фиксируют сотни умных устройств. Цифровые следы стекаются в базы больших данных и образуют полноценные досье на каждого из нас. А возможно, где-то уже есть и “золотая запись” — полная ДНК нашего цифрового двойника. Насколько мы все и наши данные под угрозой? Как сохранить остатки приватности? И как построить доверенную среду в мире роботов?»

А главный его посыл остался прежним: «Думать — это прикольно. Роботы этого делать пока не умеют. Нужно и учиться — чтобы деградировать, надо сначала развиться. Если вы сразу тупые, это не считается. А в остальном расслабьтесь — все данные о нас уже утекли».