На недавних дебатах Humanity+ четыре известных технофутуриста попытались ответить на вопрос: приведёт ли развитие искусственного общего интеллекта (AGI) к спасению человечества или к его концу. Участниками стали Элиезер Юдковски, Макс Мор, Андерс Сандберг и Наташа Вита-Мор — люди, которые десятилетиями формируют повестку трансгуманизма и исследований будущего. Их позиции оказались радикально различными, что хорошо отражает текущий раскол в экспертном сообществе вокруг ИИ.
Пессимизм Юдковски: «Все умрут»
Читайте также
Хакеры использовали ИИ для создания создания уязвимости нулевого дня: угроза от Google
Юдковски занимает, возможно, самую жёсткую позицию в дискуссии о рисках AGI (ИИ). Он предупреждает, что современные модели — это «чёрные ящики», внутри которых мы не контролируем реальные механизмы принятия решений. В своей книге с красноречивым названием «Если Кто-Нибудь Построит Его, Все Умрут» он пишет: «Если любая компания или группа где угодно на планете создаст сверхразумный ИИ на базе хоть сколько‑нибудь похожих на текущие технологии, то все люди на Земле погибнут». В качестве иллюстрации он опирается на мыслительный эксперимент Ника Бострома «максимизатор скрепок»: достаточно задать сверхразуму простую цель и он может обратить всю Землю в фабрику по производству скрепок, игнорируя человеческие жизни. Юдковски убеждён, что добавление «человечных» целей поверх базовой функции мало что меняет, а надежды на «походу разберёмся с безопасностью» он считает самообманом.
Оптимизм Морa: AGI (ИИ) против старения и вымирания
Футурист Макс Мор видит в AGI не столько угрозу, сколько шанс на радикальное улучшение человеческой жизни. По его словам, искусственный интеллект может стать ключом к победе над старением, болезнями и даже к предотвращению глобального вымирания: «Что важно для меня больше всего — AGI может помочь не допустить, чтобы каждый человек умер от старения». Слишком жёсткий мораторий, предупреждает Мор, способен привести к обратному эффекту: государства, пытаясь остановить развитие ИИ, могут скатиться к жёсткому авторитаризму и тотальному контролю. В его логике риск неконтролируемого AGI надо сравнивать не с «идеальным миром без рисков», а с реальностью, где человечество уже сталкивается с климатом, биоугрозами и деградацией институтов.
«Приблизительная безопасность» Сандберга
Андерс Сандберг занимает промежуточную позицию: он признаёт серьёзность угроз, но считает возможным добиться «приблизительной безопасности». Он рассказал, как однажды почти использовал большую языковую модель для проектирования биологического оружия и назвал этот опыт «ужасающим» примером того, насколько легко мощный ИИ может попасть в руки злоумышленников. Тем не менее Сандберг убеждён, что требование абсолютной безопасности парализует любое развитие: «Если вы требуете идеальной безопасности, вы её не получите и это довольно тревожно. Но мы можем добиться приблизительной безопасности, этого достаточно». Он предлагает минимум научиться согласовывать базовые ценности — хотя бы сохранение жизни и отказ от очевидно катастрофических сценариев.
Скепсис Вита-Мор к идее «выравнивания»
Наташа Вита-Мор критикует саму постановку вопроса о «выравнивании» ИИ с человеческими ценностями. Она отмечает, что даже среди людей, «которые много лет знают друг друга и действуют из лучших побуждений», нет полного согласия по базовым вопросам — значит, ожидать идеального согласия с машиной тем более наивно. «Концепция выравнивания — чрезмерно оптимистичная схема… Она никогда не будет полностью достигнута», — подчёркивает она. Заявление Юдковски о том, что «если кто‑то построит AGI, все умрут», Вита-Мор называет примером «абсолютистского мышления», которое не предлагает ни альтернатив, ни сценариев, ни путей смягчения рисков. По её мнению, разговор должен быть более прагматичным и включать спектр возможных исходов, а не только тотальный коллапс.
Слияние с машинами и будущее человека
В финале дискуссии участники коснулись идеи слияния человека и ИИ. Юдковски сравнил попытки «слиться с ИИ» с попыткой «слиться с тостером», намекая, что разрыв в возможностях будет слишком велик. Сандберг и Вита-Мор, напротив, считают, что по мере развития систем нам придётся всё плотнее интегрироваться с ними, чтобы не остаться бессильными наблюдателями в пост-AGI мире. «Вся эта дискуссия — серьёзная проверка нашей идентичности как людей», – отмечает Вита-Мор. На кону не только технологическое лидерство, но и ответ на вопрос, кем мы хотим быть в мире, где интеллект больше не является уникальной человеческой привилегией.
Меню 
Знания 
События 
Новости 
Курсы валют