Китайская компания Moonshot AI намеренно снизила возможности своей новой нейросети Kimi K3.1 Pro по поиску и эксплуатации программных уязвимостей. Разработчики опасаются, что мощные ИИ-модели могут превратиться в инструмент для масштабных кибератак. 24 октября компания представила Kimi K3.1 Pro — одну из своих наиболее мощных нейросетей с открытыми весами. При её создании разработчики специально ограничили возможности, которые потенциально могут использовать киберпреступники.
Как разработчики ослабили нейросеть
Читайте также
Россия запускает международные платежи через USDT и SWIFT: комиссия составит 0,3%
Moonshot AI удалила часть материалов, связанных с кибератаками, из обучающих данных и среды обучения с подкреплением. При этом компания стремилась сохранить высокую производительность модели в обычных задачах программирования.
Внутреннее тестирование показало заметное снижение эффективности ИИ при поиске и эксплуатации уязвимостей:
- Без ограничений — 90,5%
- С ограничениями — 81%
Несмотря на ограничения, Kimi K3.1 Pro по-прежнему превосходит предыдущую модель компании в этих испытаниях. Это означает, что нейросеть стала менее эффективной в задачах эксплуатации уязвимостей, но не утратила соответствующие возможности полностью.
Почему мощный ИИ становится угрозой
Современные нейросети способны самостоятельно писать код, анализировать программное обеспечение, обнаруживать ошибки и выполнять сложные последовательности действий. Эти возможности полезны для специалистов по кибербезопасности, но одновременно могут облегчать работу хакеров. ИИ потенциально позволяет автоматизировать отдельные этапы атак, снизить требования к квалификации злоумышленников и ускорить поиск уязвимостей. Особую обеспокоенность вызывает развитие автономных ИИ-агентов, которые могут выполнять задачи с минимальным участием человека.
Почему открытая модель вызывает больше опасений
Moonshot AI планирует опубликовать веса Kimi K3.1 Pro 4 ноября 2026 года.
После публикации сторонние разработчики смогут запускать и модифицировать модель на собственном оборудовании. В отличие от закрытых облачных сервисов, открытые веса значительно сложнее контролировать. Разработчик не сможет гарантированно отслеживать использование всех копий модели или принудительно обновлять их защитные механизмы. При этом открытость имеет и преимущества: специалисты по информационной безопасности смогут использовать технологию для проверки программного обеспечения и обнаружения потенциальных угроз.
Китай усиливает контроль над опасными ИИ-технологиями
Решение Moonshot AI совпало с обсуждением в Китае новых экспортных ограничений на технологии искусственного интеллекта. Предложенные меры предусматривают запрет на экспорт отдельных технологий автоматического создания и изменения вредоносного программного обеспечения, а также ограничения на инструменты поиска уязвимостей с использованием ИИ. Власти опасаются применения подобных решений против критической инфраструктуры, государственных систем и оборонных предприятий. Пока речь идёт о проекте ограничений, а не об окончательно введённых правилах.
Что это означает для будущего нейросетей
Ситуация с Kimi K3.1 Pro показывает новую проблему ИИ-индустрии: разработчикам приходится искать баланс между технологическими возможностями моделей и рисками их использования. Moonshot AI фактически решила пожертвовать частью возможностей нейросети ради снижения потенциальной угрозы. Однако даже после ограничений модель успешно справляется с большинством заданий внутреннего теста на эксплуатацию уязвимостей. Поэтому говорить о полной защите от злоупотреблений пока нельзя. Главный вопрос теперь заключается в том, смогут ли разработчики сделать мощные открытые нейросети безопаснее, не лишая их полезных возможностей.
Меню 
Знания 
События 
Новости 
Курсы валют