Быстрый прогресс искусственного интеллекта побуждает власти разных стран искать способы контролировать могущество нечеловеческого разума. Загнать джина обратно в бутылку вряд ли получится. Поэтому в ход идут не прямые запреты, а корректирующие воздействия. Пример подает Китай.
ИИ стал темой обсуждения даже на недавнем форуме «Один пояс – один путь», наряду с важнейшими глобальными вызовами. Китай при этом принимает меры к тому, чтобы ИИ не обучался на «неправильных» данных, то есть на той информации, которая запрещена в Поднебесной. На этот счет подготовлен специальный документ – Правила безопасности для компаний, предоставляющих услуги генеративного искусственного интеллекта. Разработчик, Национальный комитет по стандартизации информационной безопасности (National Information Security Standardization Committee, NISSC), рекомендует компаниям проводить оценку безопасности контента, используемого для обучения моделей генеративного ИИ. Если в контенте более 5% «незаконной и вредной информации», он будет занесен в черный список. К незаконной относится информация, пропагандирующая терроризм и насилие, конечно, а также та, которая угрожает «подрывом социалистической системы, нанесением ущерба репутации страны и подрывом национальной сплоченности и стабильности общества». Фактически Китай делает попытку воспитать «правильный» генеративный ИИ. Причем эта попытка, возможно, стала результатом анализа уже действующих систем. Дело в том, что как раз месяц назад власти разрешили крупнейшим китайским технологическим компаниям, включая национальный поисковик Baidu, использовать чат-боты с ИИ.
Китайский регулятор киберпространства, Cyberspace Administration of China (CAC) за последние полгода существенно смягчил свои требования. В апреле регулятор впервые озаботился безопасностью генеративного ИИ, а уже в июле опубликовал «руководящие принципы», которые оказались значительно мягче первоначальных тезисов.
В новых Правилах безопасности также содержатся специальные инструкции «по предотвращению нарушений, связанных с интеллектуальной собственностью». Эта проблема сейчас обсуждается во всем мире, и прежде всего – в США. А Китай не скрывает, что в сфере развития ИИ он намерен конкурировать со Штатами и победить уже к 2030-му году.
