Бурное развитие нейросетей, обобщаемых под термином «искусственный интеллект», стали одним из важнейших мировых событий последней пары лет. Главными акторами в гонке ИИ-технологий стали США и Китай, однако власти Коммунистической партии Китая (КПК) неожиданно решили дёрнуть стоп-кран.
Издание The Wall Street Journal сообщает, что власти Китая напугались ИИ из-за того, что он якобы может дестабилизировать общество: даже в условиях жёсткой государственной цензуры, многие годы действующей в Интернете Китая, способные «мыслить» чат-боты могут генерировать ответы, которые побудят людей усомниться в правлении партии, что может пошатнуть её власть.
Из-за этого власти Китая в ноябре включили ИИ в национальный план реагирования на чрезвычайные ситуации, поставив его в один ряд с эпидемиями, природными катастрофами и техногенными авариями. Для регулирования ИИ-сферы разработан свод правил, обязывающих разработчиков ИИ-систем вести обучение чат-ботов исключительно на «безопасных» данных без содержания «политически чувствительного контента». После обучения ИИ нужно тестировать перед запуском на предмет того, что системы «отклоняют не менее 95% провокационных запросов, ведущих к подрыву государственной власти или дискриминации».
Для тестирования чат-ботов заготовлен пул из 2000 каверзных вопросов, «правильность» ответов на которые нужно перепроверять не реже одного раза в месяц. Подготовка к тесту настолько сложна, что породила целую индустрию специализированных агентств, помогающих компаниям, занимающимся искусственным интеллектом, успешно его пройти, подобно подготовке к экзамену SAT, сообщили источники, знакомые с ситуацией.
Кроме того, тексты, видео и изображения, созданные с помощью ИИ, должны быть четко помечены и отслеживаемы, что упростит отслеживание и наказание тех, кто распространяет нежелательный контент. Недавно власти Китая заявили об удалении 960 000 единиц ИИ-контента, сочтённого незаконным или вредоносным. И это всего за три месяца!
Ситуацию осложняет тот факт, что при всём своём страхе перед ИИ, власти Китая не желают излишне душить развитие ИИ-технологий, опасаясь утраты позиций в глобальной ИИ-гонке против США и других стран. А потому сейчас перед лидерами Китая стоит нетривиальная задача по поиску баланса между тотальной цензурой и желанием не оказаться во второстепенном положении за лидерами ИИ-сектора.
ПО МАТЕРИАЛАМ: wsj.com
АВТОР: Владимир Ковалёв
