Создать профиль

Забрать ИИ у людей и отдать властям?

0

Stop

К неожиданному выводу пришла распределенная команда исследователей: чтобы избежать «злонамеренного» использования искусственного интеллекта (ИИ), нужно вооружить правительства более мощным ИИ и дать им в руки выключатель.

Команда включала исследователей из OpenAI (разработчик ChatGPT), университетов Кембриджа, Оксфорда и десятка других. Тематика исследований – настоящие и потенциальные проблемы, связанных с контролем, использованием и развитием ИИ. Результаты опубликованы в статье под названием “Computing power then governance of artificial intelligence” (Сначала вычислительная мощность, а затем управление искусственным интеллектом). Итоговый вывод: единственным способом борьбы со злонамеренным использованием искусственного интеллекта (ИИ) станет разработка более мощного ИИ и передача его в руки правительства. Заявление исследователей:

– Политики могли бы использовать доступ к вычислительным мощностям, чтобы облегчить нормативную прозрачность ИИ, распределить ресурсы для достижения полезных результатов и ввести ограничения против безответственного или злонамеренного использования ИИ. (Policymakers could use compute to facilitate regulatory visibility of AI, allocate resources to promote beneficial outcomes, and enforce restrictions against irresponsible or malicious AI development and usage.)

Из этих заявлений следует, что правительствам предлагается запустить системы, с помощью которых можно будет отслеживать разработку, продажу и эксплуатацию любого оборудования, которое сочтено необходимым для производства ИИ. Фактически это уже реализуется – США ограничивают продажу в Китай и Россию графических процессоров, используемых для обучения систем ИИ. Но исследователи заглядывают и дальше. По мнению авторов исследования, нужно заставить производителей встроить в аппаратное обеспечение «аварийные выключатели». С их помощью правительства смогут «осуществлять дистанционное правоприменение», к примеру, дистанционно отключить любое оборудование… Формально в статье сделаны реверансы в сторону прав человека, признается, что предложенные действия «несут значительные риски в таких областях, как конфиденциальность, экономические последствия и централизация власти». Но и только.

ИИ действительно меняет нашу цивилизацию. Впервые в развитых странах просвещенные силы приветствуют призыв «держать и не пущать», в чем раньше традиционно обвиняли одиозные автократические режимы.

Но сейчас существуют децентрализованные вычисления. Если системы ИИ будут строиться на их основе, возможности контроля со стороны правительств будут существенно ограничены или даже полностью устранены. Понимают ли это сторонники запретов?