Генеральный директор Anthropic Дарио Амодеи вновь поднял один из самых острых вопросов технологической индустрии: что делать, если искусственный интеллект развивается быстрее, чем государство успевает его контролировать? В новом эссе «Политика в отношении экспоненциального роста ИИ» он заявил, что период мягкого наблюдения за ИИ фактически закончился. По его словам, одних требований к прозрачности уже недостаточно: самые мощные модели должны проходить обязательное независимое тестирование до выхода на рынок.
Амодеи описывает ситуацию как гонку между скоростью технологий и медлительностью политических институтов. «ИИ развивается молниеносно», — пишет он, напоминая, что всего за несколько лет модели прошли путь от слабого написания кода до участия в создании большей части кода внутри крупных AI-компаний. Для обычного пользователя это звучит абстрактно, но смысл простой: ИИ уже не просто чат-бот для текстов и картинок. Это инфраструктурная технология, которая может влиять на кибербезопасность, науку, экономику, рынок труда и даже государственное управление.
Читайте также
Китай требует от своих ИИ‑компаний сохранять независимость и избегать капитала США
Главное предложение главы Anthropic — регулировать frontier AI, то есть передовые ИИ-модели, примерно так же, как регулируют авиацию или фармацевтику. Амодеи считает, что такие системы должны проходить технические проверки и аудит, а в случае опасности их запуск должен быть заблокирован или отменен. Он прямо сравнивает ИИ с самолетами: мощная технология приносит огромную пользу, но при плохом проектировании или эксплуатации может нанести серьезный вред. В предложенной модели контроля выделены четыре зоны риска: кибербезопасность, биологическое оружие, потеря контроля над ИИ-системами и автоматизированные исследования, которые могут ускорить появление новых угроз. Компании, по мнению Амодеи, должны защищать «веса» моделей, регулярно проводить red teaming, сообщать о серьезных инцидентах и допускать к проверкам независимых экспертов.
Интересно, что предупреждение прозвучало на фоне активного развития самой Anthropic. Компания представила Claude Fable 5 и Claude Mythos 5 — одни из самых мощных моделей в своей линейке. При этом Mythos 5 остается доступной не всем: ее дают избранным партнерам в сфере кибербезопасности и исследователям в биологии. Для широкой аудитории Anthropic предложил Fable 5 с дополнительными защитными ограничениями. Это хорошо показывает главный конфликт рынка: компании хотят выпускать все более сильные модели, но одновременно признают, что эти модели уже могут быть опасны при «неправильном» использовании. Именно эти опасения (вопрос: насколько мотивированные?) сподвигли федеральные власти США наложить ограничения на использование этих двух наиболее мощных моделей.
Эта дискуссия о доступности ИИ важна не только для США. Если крупнейшие разработчики начнут работать по новым стандартам проверки, такие правила постепенно могут стать глобальной нормой. Для бизнеса это означает больше затрат на безопасность и комплаенс, а для пользователей — больше шансов понять, какие модели действительно надежны.
Есть и критика. Сторонники более открытого ИИ опасаются, что жесткое регулирование может закрепить власть крупнейших игроков. Если доступ к самым сильным моделям получат только несколько компаний и государственные партнеры, рынок станет менее конкурентным. Ранее глава OpenAI Сэм Альтман называл подобную риторику «маркетингом страха», намекая, что разговоры об угрозах могут использоваться для контроля над технологией. Но Амодеи настаивает: общество беспокоится не из-за пиара, а потому что риски реальны. Помимо безопасности, он говорит и о рынке труда. Anthropic признает, что ИИ может стать заменой человеческому интеллекту во многих профессиях, поэтому государствам нужно заранее готовить механизмы поддержки, переподготовки и распределения выгод от роста производительности.
По сути, заявление главы Anthropic и ограничения федерального правительства США фиксируют новый этап в развитии искусственного интеллекта. Вопрос уже не в том, станет ли ИИ важной технологией. Он уже стал. Теперь главный спор — кто и по каким правилам будет управлять его силой: сами корпорации, государства или международные институты.
Меню 
Знания 
События 
Новости 
Курсы валют