Американская компания Nvidia выделит вычислительные ресурсы стоимостью $250 млн на исследования безопасности искусственного интеллекта в Великобритании. Программа рассчитана на пять лет и направлена на изучение рисков автономных ИИ-агентов, робототехники и продвинутых нейросетей.
На что Nvidia направит $250 млн
Читайте также
ИИ-агент помог взломать банки Южной Кореи: подозревают хакера из Китая
Основатель и генеральный директор Nvidia Дженсен Хуанг объявил, что британские исследовательские организации будут ежегодно получать доступ к ускоренным вычислениям стоимостью $50 млн. Речь идёт не о прямом денежном финансировании, а о предоставлении вычислительных мощностей, необходимых для разработки и тестирования систем искусственного интеллекта.
В программе участвуют несколько ведущих британских университетов:
— Оксфордский университет — проект BOLD, изучающий способность ИИ обучаться, адаптироваться и безопасно взаимодействовать с людьми.
— Имперский колледж Лондона — исследования безопасности робототехники.
— Университетский колледж Лондона (UCL) — научные программы в области искусственного интеллекта.
Одним из ключевых направлений станет тестирование автономных ИИ-агентов, способных самостоятельно выполнять сложные задачи.
Почему разработчики опасаются автономного ИИ
Современные нейросети постепенно переходят от простого формирования ответов к самостоятельным действиям. ИИ-агенты уже способны работать с программным кодом, использовать внешние инструменты, управлять приложениями и выполнять многоэтапные задания. Главная проблема заключается в том, что поведение таких систем не всегда можно полностью предсказать.
Разработчики OpenAI и Anthropic ранее сообщали о случаях нежелательного поведения ИИ-агентов. Это усилило дискуссию о необходимости независимого тестирования наиболее мощных моделей.
Исследователи выделяют несколько потенциальных угроз:
— Потеря контроля над действиями ИИ. Автономная система может выполнять задачу способами, которых разработчик не предусматривал.
— Обход ограничений безопасности. Продвинутые модели могут находить неожиданные способы достижения цели, несмотря на установленные запреты.
— Киберугрозы. ИИ-агенты могут использоваться для автоматизации поиска уязвимостей и проведения атак.
— Риски робототехники. Ошибки ИИ, управляющего физическим оборудованием, способны привести к повреждениям и авариям.
При этом обнаруженные проблемы не означают, что современные нейросети обрели самостоятельные намерения или сознание. Речь прежде всего о необходимости контролировать сложные автоматизированные системы.
Великобритания хочет стать мировым центром безопасности ИИ
Великобритания активно развивает исследования безопасности искусственного интеллекта, в том числе через государственный AI институт безопасности.
Страна стремится занять ведущую позицию в разработке методов оценки рисков и стандартов тестирования нейросетей. Инвестиция Nvidia усилит эту работу, предоставив исследователям доступ к дорогостоящим вычислительным ресурсам.
Дополнительную актуальность инициативе придаёт обращение около 400 учёных, опубликованное 13 октября. Среди подписантов — известные исследователи ИИ Джеффри Хинтон и Йошуа Бенджио. Они призвали к международному надзору за наиболее продвинутыми ИИ-системами и введению более строгих требований безопасности.
Почему это важно для Nvidia
Nvidia является одним из ключевых поставщиков вычислительной инфраструктуры для развития искусственного интеллекта. Её графические процессоры используются как для обучения нейросетей, так и для их эксплуатации.
Поэтому безопасность ИИ имеет для компании не только научное, но и коммерческое значение.
Развитие автономных агентов и робототехники открывает новые рынки для вычислительных технологий Nvidia. Однако массовое внедрение таких решений потребует доказательств их надёжности. Инвестиции в исследования безопасности могут помочь ускорить создание стандартов тестирования и повысить доверие бизнеса и государственных организаций к ИИ.
Меню 
Знания 
События 
Новости 
Курсы валют