Новости о стремительном развитии ИИ и угрозах, которые он таит, могут всерьез встревожить. Тем более из уст специалистов. Руководитель компании Anthropic Дарио Амодеи (Dario Amodei) предположил, что искусственный интеллект (ИИ) способен достигнуть «человеческого уровня» практически завтра, уже к 2026 году.
В подкасте с Лексом Фридманом (Lex Fridman) Амодеи провел аналогию между развитием ИИ и системами образования, подчеркнув его стремительное продвижение: от уровня школьника старших классов, в начале пути, до практически уровня доктора наук — сейчас.
По мнению эксперта, существует вероятность, что к 2026-2027 г. ИИ не только сравняется с человеком по интеллектуальным способностям, но и превзойдет его. Амодей обеспокоен и вероятными последствиями развития ИИ, добавив, что «с большой силой приходит большая ответственность», и как «трудно соблюсти баланс между ростом возможностей и ответственностью за их использование».
Ранее Anthropic представила детальное исследование, где перечислила угрозы для человечества от продвинутых ИИ-моделей. По данным работы, вредоносная модель ИИ может “саботировать” команды человека, обмануть его, заставить принять неверное решение. И это правда. Все чаще в СМИ появляется информация о «проделках» ИИ. Буквально вчера аспирант из Мичигана получил угрозу от чат-бота Google AI Gemini, заканчивающуюся словами «пожалуйста, умри». Ранее журналисты обнаружили, что чат-бот давал неверную информацию о различных запросах о здоровье, например, рекомендовал людям есть «по крайней мере один небольшой камень в день» для получения витаминов и минералов.
Однако, несмотря на рассуждения и опасения, отрасль ИИ продолжает интенсивно развиваться. Компания Anthropic также активно инвестирует ресурсы в продвижение ИИ-технологий и идеи «ответственного масштабирования». В настоящее время для обучения моделей ИИ Anthropic использует тысячи графических процессоров (GPU), что позволяет обрабатывать все больше данных и постепенно повышать уровень ИИ. Компания также готовится к релизу обновленной версии языкового чат-бота Claude 3.5, конкурирующего с ChatGPT от OpenAI.
