Искусственный интеллект может получить способность самостоятельно распространяться между устройствами без участия человека и подключения к дата-центрам. К такому выводу пришли исследователи компании Anthropic. По их прогнозам, первые достаточно эффективные системы такого типа могут появиться уже к концу 2026 года.
Как ИИ сможет самостоятельно размножаться
Читайте также
Bitcoin может получить приватные транзакции в стиле Zcash без изменения протокола
12 октября Anthropic опубликовала результаты экспериментов, посвящённых автономному копированию искусственного интеллекта. Исследователи проверяли, способны ли ИИ-модели находить уязвимые устройства, переносить на них собственные программные компоненты, запускаться и продолжать распространение без команд человека.
В качестве потенциальной инфраструктуры рассматриваются обычные устройства интернета вещей (IoT):
— Умные телевизоры и Android TV-приставки.
— Умная бытовая техника.
— Другие подключённые к интернету устройства со слабой защитой.
Такие устройства обладают ограниченной вычислительной мощностью, однако небольшие нейросети уже способны работать на подобном оборудовании.
Фактически речь идёт о новом поколении компьютерных червей, которые не просто копируют программный код, но и используют искусственный интеллект для самостоятельного поиска способов распространения.
Что показали эксперименты
Исследователи установили, что модели размером до 30 млрд параметров уже способны выполнять многие отдельные действия, необходимые для самокопирования.
В ходе испытаний модель с 9 млрд параметров смогла запустить вычисления на восьми из девяти протестированных типов оборудования. Однако полностью автономное распространение пока остаётся сложной задачей: небольшие модели допускают ошибки при последовательном выполнении всех необходимых операций.
В упрощённых экспериментах, где часть защитных препятствий была устранена, модель GLM-5.2 и более мощные системы смогли пройти процесс копирования от начала до конца. По оценке Anthropic, если развитие компактных нейросетей сохранит прежние темпы, они могут достичь аналогичных возможностей уже до конца 2026 года.
Почему это опасно
Главная проблема заключается в отсутствии единого центра управления.
Сегодня крупные ИИ-системы обычно работают на серверах, доступ к которым контролируют их владельцы. При необходимости такую инфраструктуру можно отключить. Самораспространяющийся ИИ потенциально сможет существовать одновременно на множестве независимых устройств.
При этом ИИ может:
— Адаптироваться к незнакомому оборудованию.
— Искать новые уязвимые устройства.
— Продолжать работу после отключения части заражённой сети.
— Использовать чужие вычислительные ресурсы без разрешения владельцев.
В отличие от традиционных компьютерных червей, система с ИИ может анализировать окружающую программную среду и выбирать действия с учётом обнаруженных особенностей. При этом Anthropic предполагает, что распространение таких систем будет относительно медленным: удвоение числа копий может занимать несколько дней, а не минуты.
Как защититься от самораспространяющегося ИИ
Исследователи считают, что бороться с подобными системами можно традиционными методами кибербезопасности, дополненными мониторингом сетевой активности.
Перенос нейросетевых моделей между устройствами создаёт заметный сетевой трафик. Это позволяет обнаруживать подозрительную активность, блокировать заражённые устройства и ограничивать распространение вредоносных программ.
Производителям умной техники потребуется усилить защиту оборудования, отказаться от стандартных паролей и обеспечить регулярное обновление программного обеспечения.
Эксперименты Anthropic показывают, что для автономного существования ИИ в будущем могут не потребоваться дорогостоящие дата-центры. Вычислительные мощности миллионов обычных устройств теоретически способны стать распределённой инфраструктурой для работы нейросетей.
Однако полноценный самораспространяющийся ИИ пока не создан. Исследование демонстрирует техническую возможность отдельных этапов такого процесса, а не появление независимого искусственного интеллекта.
Главная угроза заключается не в том, что ИИ приобретёт сознание, а в том, что автономные программные агенты смогут распространяться и действовать в цифровой инфраструктуре без постоянного человеческого контроля.
Меню 
Знания 
События 
Новости 
Курсы валют