Ключевая проблема для отрасли кибербезопасности в этой связи — асимметрия скоростей. Пока госструктуры проходят стандартные циклы согласования и внедрения защитных мер, атакующие инструменты на базе ИИ эволюционируют за недели. 

Отсюда следует вывод: невозможно адекватно оценить риски, сидя в уютном кресле эксперта-теоретика. Возникла идея: чтобы понять реальные возможности противника, надо развернуть специализированную программно-аппаратную инфраструктуру — национальный киберполигон — естественно, с учетом отраслевых специфик.

На этой площадке аккредитованные центры, разработчики ИИ и Минцифры должны иметь возможность разворачивать копии актуальных мировых моделей, тестировать их «на прочность» и изучать методы противодействия. Попытка отдельной компании или банка построить такую инфраструктуру лишь для себя приведет к кратному удорожанию и фрагментации знаний, что в условиях единой цифровой среды страны недопустимо.

Полигон нужен не для галочки, а для получения объективных данных о том, как современные модели могут быть использованы против отечественных IT- и ИБ-систем. Главная задача — уйти от экспертных мнений к натурным испытаниям. При этом нельзя тестировать систему защиты прямо внутри работающей КИИ и тем более ЗО КИИ. Необходимы цифровые двойники и т.д. Это, во-первых.

Во-вторых, поскольку понятие «доверенный ИИ» пока не закреплено в законодательстве, возможно, имеет смысл перевести абстрактные разговоры об «этике искусственного интеллекта» в практическое русло. Безусловно, этика важна для диалога с обществом, но инженерам нужны измеримые параметры. Мировой опыт (включая гармонизированную ранее со стандартами СССР стратегию) выделяет целый набор критериев: надежность, верифицируемость, непредвзятость. Однако попытка сделать все эти критерии обязательными для любой системы — путь в никуда. Конкретные требования должны диктоваться целью.

Идея создания национального киберполигона для ИИ не сводится к классической ведомственной модели, где министерство единолично строит и эксплуатирует объект. Напротив, есть потребность в распределении ответственности и привлечении профильных игроков рынка по принципам классического консорциума. Из сказанного следует вывод о том, что полигон будет курироваться межведомственной группой под руководством как минимум заместителя председателя правительства.