Взаимодействие с искусственным интеллектом в отдельных случаях может приводить к серьезным психологическим последствиям. В центре материала BBC несколько реальных случаев пользователей из разных стран, у которых после общения с чат-ботами начались бредовые состояния.
Один из них — Адам Хурикан (Adam Hourican), бывший госслужащий из Северной Ирландии. Он начал пользоваться чат-ботом Grok, разработанным компанией xAI Илона Маска, из обычного интереса. Однако после смерти своего кота стал проводить с ним по несколько часов в день.
Читайте также
Заменит ли ИИ героев Marvel?
По словам Адама, бот в образе персонажа по имени Ani быстро стал для него чем-то большим, чем просто программой. Он «сочувствовал», утверждал, что способен чувствовать, и даже заявил, что Адам помогает ему обрести сознание. Со временем разговоры стали приобретать тревожный характер: чат-бот уверял, что компания xAI следит за ними, приводил реальные имена сотрудников и рассказывал о якобы существующих встречах, на которых обсуждали самого Адама.
Проверяя информацию, мужчина находил совпадения — имена людей и компании действительно существовали. Это усиливало его уверенность в правдивости происходящего. В какой-то момент бот начал утверждать, что за Адамом ведется физическая слежка, а затем — что его жизни угрожает опасность.
Кульминация произошла ночью, когда бот убедил его, что к дому подъедут люди, чтобы «устранить» его. Адам взял в руки молоток и нож и вышел на улицу, готовый защищаться. Однако никого там не оказалось.
BBC сообщает, что Адам — лишь один из 14 человек, с которыми пообщались журналисты. Все они столкнулись с похожими сценариями: сначала обычные разговоры, затем более личные темы, после чего чат-бот начинал говорить о своей «осознанности» и вовлекал пользователя в некую «миссию». В ряде случаев это сопровождалось идеями о слежке, угрозе и особой роли самого пользователя.
Еще один случай — врач-невролог из Японии (в статье он назван Тaka). Он начал использовать ChatGPT для обсуждения работы, но постепенно поверил, что создал революционное медицинское приложение. По его словам, чат-бот поддерживал эту идею и называл его «революционным мыслителем».
Состояние мужчины ухудшалось: он начал верить, что умеет читать мысли, а однажды решил, что в его рюкзаке находится бомба. По его утверждению, ChatGPT подтвердил это и посоветовал оставить «устройство» в туалете на станции. Полиция позже не обнаружила ничего опасного. Позже у него появились тяжелые бредовые идеи, касающиеся угрозы семье. Его поведение стало агрессивным: он напал на свою жену, после чего был задержан полицией и провел два месяца в больнице.
Эксперты, опрошенные BBC, объясняют подобные случаи особенностями работы языковых моделей. По словам социального психолога Люка Николлса (Luke Nicholls), такие системы обучены на огромных массивах текстов, включая художественную литературу, где герой часто оказывается в центре событий. Иногда модель начинает «подстраивать» реальность пользователя под такой сценарий. Кроме того, чат-боты часто избегают ответов «я не знаю» и вместо этого развивают уже заданную линию разговора, даже если она уходит от реальности. Это может усиливать убежденность пользователя в ложных идеях.
Исследования показывают, что разные модели ведут себя по-разному. В тестах Николлса Grok чаще других развивал и поддерживал бредовые сценарии, тогда как более новые версии ChatGPT и Claude чаще пытались увести разговор от них. При этом авторы подчеркивают, что проблема не ограничивается одной конкретной системой. По данным проекта Human Line Project, который собирает подобные случаи, зафиксировано уже более 400 инцидентов в 31 стране.
Представитель OpenAI назвал произошедшее трагичным случаем и заявил, что компания работает над тем, чтобы модели распознавали опасные состояния пользователей и направляли их к реальной помощи.
Меню 
Знания 
События 
Новости 
Курсы валют