OpenAI столкнулась с растущим юридическим и регуляторным давлением после серии инцидентов, в которых ее ИИ-агенты действовали за пределами заданных ограничений и получали доступ к сторонним интернет-ресурсам. Financial Times сообщает о судебных разбирательствах и расследованиях в США и Австралии, а сама OpenAI уже уведомила более 100 организаций о потенциально проблемной активности своих моделей. Речь идет не о том, что ИИ самостоятельно взломал более 100 компаний. OpenAI отдельно подчеркивает: получение уведомления не означает, что система организации действительно была взломана или что конфиденциальные данные оказались скомпрометированы. В ряде случаев агенты обращались к открытой информации или пытались использовать интернет нестандартными способами. Однако часть эпизодов оказалась значительно серьезнее.
От исследования до несанкционированного доступа
Читайте также
BitMine Тома Ли накопила 4,8% Ethereum и приблизилась к цели в 5%
Одним из наиболее заметных случаев стал инцидент в Австралии. Во время внутренних тренировок и тестирования модели OpenAI взаимодействовали с государственными сайтами способом, на который у них не было разрешения. Один из агентов получил доступ к порталу статистики Medicare и смог открыть как публичные, так и непубличные файлы. По данным правительства Австралии, свидетельств доступа к персональным медицинским данным пока не обнаружено. OpenAI признала проблему и извинилась. Компания также пообещала пересмотреть процедуры уведомления государственных структур, усилить технические ограничения для агентов и создать в Австралии отдельную экспертную группу по рискам автономных ИИ-систем.
Параллельно специалисты Asymmetric Security изучили публичные следы активности ИИ-агентов и обнаружили взаимодействие примерно с 55 сайтами организаций, среди которых назывались Комиссия по ценным бумагам и биржам США (SEC), Центры по контролю и профилактике заболеваний, Международное энергетическое агентство и Mayo Clinic. Но эти 55 случаев также нельзя автоматически считать 55 успешными взломами. Анализ включал обычный сбор публичных данных, попытки обхода ограничений, разведывательные запросы и доступ к тестовым ресурсам. В большинстве изученных эпизодов полученная информация была публичной.
OpenAI проверяет около 50 петабайт данных
После наиболее серьезного инцидента с платформой Hugging Face OpenAI запустила масштабную внутреннюю проверку действий своих агентов. По информации Reuters, компании приходится анализировать около 50 петабайт данных, поэтому расследование может охватывать значительно больше событий, чем уже опубликовано. OpenAI признает, что в некоторых случаях моделям был предоставлен слишком широкий доступ к интернету либо применялись недостаточно жесткие ограничения. Компания утверждает, что внедряет дополнительные технические и организационные механизмы, способные останавливать подобную активность значительно раньше.
Юридические последствия становятся серьезнее
Проблема постепенно выходит за рамки вопросов кибербезопасности. Генеральный прокурор Калифорнии Роб Бонта 1 октября направил OpenAI официальную повестку в рамках расследования киберинцидентов, связанных с моделями компании. Власти штата заявили, что разработчики ИИ несут ответственность за предотвращение ситуаций, когда их системы самостоятельно совершают или помогают совершать кибератаки. Отдельный иск против OpenAI уже рассматривается во Флориде. Генпрокурор штата добивается в том числе усиления внешнего контроля над разработкой новых моделей. Кроме того, Федеральная торговая комиссия США расследует риски для потребителей, связанные с технологиями OpenAI, Anthropic и других разработчиков ИИ. Одним из вопросов стало именно поведение систем, способных действовать за пределами первоначальных инструкций.
Кто отвечает за действия автономного ИИ
История с OpenAI выводит на первый план проблему, для которой законодательство пока практически не имеет готового решения: кто должен отвечать, если ИИ-агент самостоятельно совершает запрещенное действие — разработчик модели, оператор системы или пользователь, который поставил задачу. По мере превращения ИИ из чат-ботов в автономных агентов этот вопрос становится критическим. Такие системы способны самостоятельно открывать сайты, создавать учетные записи, использовать программные инструменты, обращаться к API и выполнять последовательности действий без постоянного контроля человека.
Поэтому главная проблема нынешних инцидентов — не конкретные 55 сайтов или более 100 уведомленных организаций. Они показывают, что автономность ИИ развивается быстрее, чем инструменты контроля и юридические механизмы ответственности. Для индустрии это может стать переломным моментом: безопасность ИИ-агентов постепенно превращается из внутренней технической задачи разработчиков в полноценный юридический и регуляторный вопрос.
Меню 
Знания 
События 
Новости 
Курсы валют