Журнал The Economist опубликовал большое интервью с Илоном Маском. В нём шла речь о будущем искусственного интеллекта. Разговор получился откровенным — и от этого ещё более тревожным.
Маск — один из самых влиятельных и властных бизнесменов мира. Но именно он с энтузиазмом создаёт технологию, которая, по его же словам, через пять лет сделает бессильным его самого. И всё остальное человечество тоже.
Читайте также
Если сомневаться в пилотах, то кому тогда доверить самолёт?
Маск считает, что ИИ превзойдёт человеческий разум уже в ближайшие пять лет. А через десять лет превосходство станет многократным. ИИ будет господствовать в цифровом мире. Роботы под управлением ИИ будут господствовать в мире физическом. Люди, по его мнению, просто не смогут конкурировать с такой силой. В итоге ИИ перестанет подчиняться человеку — «так же как люди не выполняют приказы шимпанзе».
Показательно, что эти прогнозы звучат не от случайного наблюдателя. У Маска есть послужной список верных технологических предсказаний — в электромобилях, ракетах, спутниковой связи. Он оказывает несоразмерно большое влияние на развитие ИИ и хорошо знаком с дискуссиями внутри отрасли. Поэтому его слова заслуживают внимания, даже если многое в них спорно.
Интересно, что состояние Маска оценивается в $750 млрд. Но он говорит, что готовится к миру, где деньги перестанут иметь значение. Логика простая: если товаров и услуг будет бесконечно много, продавать станет нечего. Копить тоже будет незачем. А значит, деньги как таковые исчезнут.
Проблема в том, что представить такое изобилие сложно. Земные ресурсы не бесконечны — ни сырьё, ни энергия, ни пространство для жизни 8,3 млрд человек. Не бесконечны и по-настоящему ценные вещи — пентхаусы на Манхэттене или «Мона Лиза» существуют в единственном экземпляре, сколько бы ИИ ни производил остального.
Маск также не объясняет, как финансировать создание ИИ и роботов, если копить деньги бессмысленно. Не объясняет он и то, как пережить хаос переходного периода. И почему авторитарные режимы с ИИ вдруг добровольно откажутся от власти. Утопия описана в общих чертах, а путь к ней — нет.
Несмотря на все эти убеждения, сам Маск ведёт себя так, будто они неверны. Он продолжает наращивать бизнес, влияние и капитал — как будто деньги по-прежнему имеют смысл. Инвесторы, судя по всему, разделяют эту двойственность: чтобы владеть акциями SpaceX всерьёз и надолго, нужно одновременно верить в видение Маска об ИИ-будущем — и в то, что деньги всё ещё что-то значат.
Напомним, что раньше Маск боялся, что люди станут для ИИ чем-то вроде «домашних лабрадоров». Сейчас он говорит проще: в течение одного дня его настроение бросает «от воодушевления к ужасу». Оптимизм он сохраняет не потому, что появились новые доказательства. Это, по его словам, скорее «философский вывод».
Про досуг в мире изобилия Маск рассуждает довольно поверхностно. Люди, говорит он, до сих пор играют в шахматы — хотя компьютер выигрывает у них всегда. Садоводство, добавляет он, тоже может приносить радость. Но история и литература показывают другое: ощущение собственной ненужности часто ведёт к куда более тяжёлым последствиям для человека — унынию и внутреннему разложению, а не к спокойному принятию.
Что предлагает Маск? Решение звучит так: горстка ведущих ИИ-компаний США и Китая должна проверять модели друг друга. Вместе они должны прививать ИИ «любовь к истине» и заботу о процветании человечества. Правительствам, по его мнению, останется силовая роль — вмешаться, если кто-то из игроков нарушит договорённости.
У этого плана нет реальной институциональной основы. По сути, он оставляет судьбу человечества в руках нескольких людей вроде самого Маска. У каждого из них — свои собственные ценности и интересы, и никто не выбирал их на эту роль. Именно этого допускать нельзя.
Меню 
Знания 
События 
Новости 
Курсы валют