«Искусственный интеллект может уничтожить всех людей на земле». Множество статей с таким устрашающим прогнозом появилось в СМИ с момента активного развития нейросетей, но разработчики уверяют, что все – под контролем. Однако Виталик Бутерин, к мнению которого прислушивается внушительная часть криптосообщества, считает, что опасность все-таки есть.
Создатель Ethereum, естественно, весьма позитивно относится к новым технологиям и прикладывает усилия к тому, чтобы человечество не стояло на месте, а развивалось и совершенствовалось. «Вперед, к светлому будущему!», как гласит известный лозунг. Но какое оно, «светлое будущее»? С этим еще стоит определиться. Бутерин считает, что важно не только стремиться масштабировать технологии и получить максимальную прибыль, но и выбрать правильные направления развития. И эта ответственность ложится как раз на плечи людей, никак не машин.

Виталик Бутерин утверждает, что есть разные типы технологий, одни из которых помогают человечеству, другие могут нанести вред, а третьи – призваны устранить негативные последствия. Во всех трех случаях первостепенно присутствие в этих процессах человека. Некоторые обвиняют технологии в ухудшении экологии, влиянии на военные действия, усилении контроля со стороны государства, однако переоценить их положительное влияние на нашу повседневную жизнь сложно. Проблемы, которые возникали и возникают из-за технического прогресса, можно решить путем скоординированных действий группы людей. Но в случае с ИИ дело обстоит немного иначе, считает Бутерин. Это не просто еще одна технология, как интернет, телефон или соцсеть, искусственный интеллект – это новый тип разума. И его бесконтрольное и стремительное развитие может действительно привести к уничтожению человечества. Если произойдет сбой в работе модели ИИ, то худший возможный исход – восстание сверхразума против людей.
Чтобы этого не произошло, Бутерин предложил интегрировать интерфейсы «мозг-компьютер» (BCI) для предоставления людям большего контроля над мощными формами вычислений на основе ИИ. Важно, чтобы за человеком оставалась возможность участвовать в каждом решении, принимаемом машиной. Необходимо продвигать идею сотрудничества человека и компьютера, а не его замену, утверждает Бутерин. И мы полностью с ним солидарны.