Гонка искусственного интеллекта подошла к необычной точке: руководители компаний, которые конкурируют за создание самых мощных моделей, начали публично говорить о необходимости сбавить скорость. Глава Anthropic Дарио Амодеи призвал ведущие ИИ-компании сознательно замедлить развитие передовых систем, чтобы меры безопасности успевали за ростом их возможностей. Его позицию поддержали глава OpenAI Сэм Альтман и основатель xAI Илон Маск. Амодеи изложил свою позицию в эссе «Мы должны контролировать темп развития передовых технологий». Речь не идет о полной остановке исследований или запрете на обучение новых моделей.
Главная идея заключается в том, чтобы не развивать frontier AI — наиболее мощные передовые модели с максимально возможной скоростью, если механизмы контроля и тестирования не успевают за технологическим прогрессом.
Читайте также
Mortal Shell 2 слили на торренты за три дня до официального релиза
«Мы должны замедлить темп, с которым улучшаем возможности моделей ИИ», — написал Амодеи. По его мнению, даже один-два дополнительных года могут существенно снизить риски, если это время использовать для развития методов выравнивания ИИ, интерпретируемости, тестирования и других механизмов безопасности.
ИИ начинает создавать новый ИИ
Особое беспокойство у главы Anthropic вызывает способность искусственного интеллекта все активнее участвовать в создании следующего поколения моделей. Такой процесс связывают с рекурсивным самоулучшением, при котором ИИ помогает ускорять собственное развитие. Амодеи опасается, что в определенный момент скорость такого прогресса может превысить способность людей понимать и контролировать системы. Поводом для беспокойства стали и недавние инциденты с автономными ИИ-агентами. Амодеи предупредил, что при сохранении нынешних темпов развития уже через 6–12 месяцев достаточно мощный «рой» агентов теоретически может получить возможности для масштабных атак на интернет-инфраструктуру с ущербом в сотни миллиардов долларов. Это оценка потенциального риска, а не прогноз неизбежного сценария. Дополнительным сигналом стал опубликованный Anthropic отчет об угрозах: компания сообщила о случаях использования Claude для киберопераций, мошенничества, слежки и исследований, которые могли быть связаны с разработкой опасных технологий.
Как предлагается затормозить гонку ИИ
Амодеи предлагает трехэтапную систему. Первый шаг — предоставить независимым экспертам постоянный доступ к внутренним процессам ведущих ИИ-лабораторий, чтобы они могли проверять меры безопасности. Anthropic готова внедрить этот механизм у себя, а представители OpenAI уже поддержали инициативу.
Следующий этап — единые стандарты безопасности для крупнейших разработчиков. В перспективе Амодеи предлагает международные договоренности, в том числе с Китаем, по наиболее опасным возможностям ИИ и ограничениям на неконтролируемое самоулучшение систем.
Особенно примечательна реакция конкурентов. Сэм Альтман согласился с необходимостью замедлить развитие передового ИИ, а Илон Маск написал: «Дарио прав». При этом экономическая гонка никуда не исчезает: на кону огромные инвестиции, вычислительные мощности и будущая капитализация разработчиков. При этом OpenAI и Anthropic готовятся к возможному выходу на фондовый рынок. Поэтому главным вопросом теперь становится не то, признает ли индустрия риски ИИ, а сможет ли она установить правила, которые одинаково ограничат всех крупнейших игроков. Если это произойдет, 2026 год может стать моментом, когда гонку искусственного интеллекта впервые начали измерять не только мощностью моделей, но и способностью компаний удерживать их под контролем.
Меню 
Знания 
События 
Новости 
Курсы валют