Король Великобритании Карл III собрал в шотландском поместье Дамфрис-хаус представителей крупнейших компаний и исследовательских центров в сфере искусственного интеллекта. Встреча 17 сентября объединила руководителей Nvidia, OpenAI, Google DeepMind и Anthropic, а также чиновников, ученых и специалистов по этике. Главная тема — как сохранить развитие ИИ под контролем человека и сформировать международные принципы безопасности. Среди ключевых участников Bloomberg называет генерального директора Nvidia Дженсена Хуанга, финансового директора OpenAI Сару Фрайар и сооснователя Google DeepMind Демиса Хассабиса. Anthropic представлял руководитель направления по общественным вопросам Тино Куэльяр. В мероприятии также участвовали британский министр по искусственному интеллекту Канишка Нараян, советник Ватикана по вопросам ИИ Паоло Бенанти и известный исследователь безопасности искусственного интеллекта Стюарт Рассел.
По данным Bloomberg, Карл III провел отдельную закрытую встречу с частью участников. В нее вошли представители технологического сектора, научного сообщества и британских властей, а также директор Ditchley Foundation Джеймс Арройо. Фонд участвовал в организации мероприятия, призванного объединить людей с разными взглядами на развитие ИИ. Открывая встречу, Карл III заявил, что общество ждет от разработчиков гарантий того, что человечество «не потеряет контроль над собственной судьбой». Монарх предложил сосредоточиться на двух вопросах: как использовать преимущества искусственного интеллекта, поставив безопасность в центр его развития, и как добиться международного сотрудничества, при котором технологический прогресс не приведет к появлению новых глобальных разрывов.
Читайте также
Бумажный убыток Strategy по биткоину превысил $13 млрд: тревожный сигнал для крипторынка
При этом король подчеркнул не только преимущества технологии. По его словам, необходимо срочно учитывать «экзистенциальные опасности» попадания мощных систем в неправильные руки. ИИ, отметил Карл III, способен значительно улучшить медицину и естественные науки, но одновременно может применяться с разрушительными последствиями. Глава Nvidia Дженсен Хуанг также непосредственно затронул вопрос безопасности. Он заявил, что разработчики должны тщательно испытывать новые системы, а продукты, которые еще недостаточно безопасны, не следует выпускать на рынок. При этом Хуанг ранее выступал против общего замедления развития ИИ-индустрии, поэтому его позиция отличается от предложений о коллективной паузе в гонке моделей.
Саммит прошел на фоне заметного обострения дискуссии вокруг рисков искусственного интеллекта. Генеральный директор Anthropic Дарио Амодеи недавно призвал компании рассмотреть замедление разработки наиболее мощных моделей. В индустрии одновременно обсуждаются автономное поведение ИИ, использование моделей злоумышленниками и необходимость более жестких механизмов тестирования.
Обязательных соглашений по итогам встречи не ожидалось. Букингемский дворец сообщал, что участники должны были обсудить общий набор принципов, согласно которому ИИ рассматривается не только как инструмент повышения эффективности, но и как технология, призванная поддерживать человеческое достоинство и приносить пользу обществу и окружающей среде.
Карл III уже обращался к теме искусственного интеллекта на британском AI Safety Summit 2023. Нынешняя встреча показывает, что разговор о безопасности ИИ окончательно вышел за пределы технологических компаний: теперь в нем одновременно участвуют разработчики, правительства, ученые и специалисты по этике.
Меню 
Знания 
События 
Новости 
Курсы валют