На днях Гэвин Ньюсом (Gavin Newsom), губернатор штата Калифорния, наложил вето на законопроект Сената об установлении стандартов безопасности для систем искусственного интеллекта (ИИ). Более сотни известных деятелей культуры подписали открытое письмо, призывая Ньюсома одобрить законопроект, получивший поддержку сторонников технической безопасности, включая Илона Маска.
Отрасль ИИ всё больше привлекает инвесторов. Технологические компании уже вложили миллиарды долларов в масштабные проекты. Всё чаще поднимается тема регулирования бурно развивающейся отрасли и обеспечения безопасности. Илон Маск, по его словам, двадцать лет выступает за подобное регулирование. Год назад стало известно, что Apple разрабатывает собственный чат-бот на основе ИИ. Тогда генеральный директор Apple Тим Кук заявил, что для генеративного ИИ необходимы некоторые правила, позволяющие регулирование.
В прошлом году 28 стран взяли на себя обязательства по единому подходу к управлению искусственным интеллектом. Саммит по безопасности проходил в Блетчли-парке в Великобритании. Принятая там Декларация Блетчли призвала мировых лидеров к совместной работе по обеспечению безопасности и сотрудничества в отношении генеративного ИИ. Тогда же генеральные директора ведущих разработчиков США подписались под обязательством администрации Байдена об ответственном подходе к разработке интеллектуальных систем.
Результатом масштабных инициатив должен стать закон, регулирующий разработки интеллектуальных систем. Первыми здесь могут оказаться Соединённые Штаты как один из центров мировых инноваций. До того, как подобный закон появится на федеральном уровне в США, сенаторы от штата Калифорния (их двое) подготовили тот самый законопроект о безопасности искусственного интеллекта, потенциальную модель будущего регулирования. Он вводит протоколы безопасности для разработчиков крупных систем ИИ и создаёт Совет по передовым системам для надзора за их соблюдением.
Губернатор Ньюсом, однако, уверен, что данный законопроект может подавить инновации в технологическом секторе штата. К тому же он сфокусирован на крупномасштабных системах, за пределами компетенции оставляя более мелкие, но не менее рискованные разработки. Это может дать общественности ложное чувство безопасности в отношении контроля над быстроразвивающейся технологией. Губернатора поддерживают крупные разработчики и венчурные инвесторы. Они также опасаются, что регулирование будет сдерживать инновации.
Возникший конфликт отражает современную сложность баланса между инновациями, представляющими риски для общества, и надзором, который необходимо все-таки основывать на эмпирических и научных данных.
