Искусственный интеллект способен не только создавать фальшивые изображения и видео, но и влиять на человеческую память. Исследователи Массачусетского технологического института (MIT) обнаружили, что после просмотра материалов, изменённых нейросетями, люди начинают вспоминать события, которых в действительности не происходило. При этом они могут быть совершенно уверены в достоверности своих воспоминаний. Об этом сообщила The Washington Post со ссылкой на исследования MIT Media Lab. Учёные предупреждают: по мере распространения генеративного ИИ становится всё сложнее отличать реальные воспоминания от информации, сформированной под влиянием технологий.
Как ИИ заставляет людей помнить то, чего не было?
Читайте также
Ethereum может обнулить эмиссию ETH при достижении 50% стейкинга
Команда исследователей под руководством профессора MIT Патти Маес провела эксперимент с участием 200 добровольцев. Участникам сначала показывали обычные фотографии, а затем — оригинальные либо изменённые искусственным интеллектом изображения и видеоролики. Нейросети добавляли на фотографии новые детали, изменяли выражения лиц и создавали визуальные элементы, которых изначально не существовало.
После этого исследователи проверяли, что запомнили участники.
Результаты оказались тревожными: люди, просмотревшие ИИ-модифицированные изображения, значительно чаще сообщали о ложных воспоминаниях. Наиболее сильный эффект наблюдался при просмотре сгенерированных видео на основе изменённых фотографий: количество ложных воспоминаний оказалось в 2,05 раза выше, чем в контрольной группе. Более того, уверенность участников в ошибочных воспоминаниях также увеличилась.
Разговор с нейросетью тоже способен исказить память
В другом эксперименте исследователи моделировали допрос свидетелей преступления. Участники отвечали на вопросы о просмотренном событии, в том числе взаимодействуя с генеративным ИИ. Выяснилось, что общение с чат-ботом приводило к появлению более чем втрое большего количества ложных воспоминаний по сравнению с контрольными условиями. В одном из экспериментов 36,4% ответов участников оказались подвержены влиянию вводящей в заблуждение информации.
Проблема заключается в том, что нейросеть может убедительно описывать несуществующие детали. Впоследствии человек способен воспринимать их как часть собственного опыта.
Почему мозг верит искусственному интеллекту?
Человеческая память не работает как видеозапись. Каждый раз, вспоминая событие, мозг частично реконструирует его, используя сохранившиеся детали и дополнительную информацию. Если нейросеть показывает реалистичное изображение или уверенно описывает событие, человеку бывает сложно определить, действительно ли он это видел или узнал позднее. Дополнительное исследование Джорджтаунского университета с участием 331 человека показало, насколько сильным может быть такой эффект. После просмотра видеозаписи ДТП участники читали составленное ИИ описание происшествия. Когда описание содержало правильную информацию, дорожный знак верно вспоминали почти 84% участников. Если ИИ указывал неправильный знак, показатель снижался примерно до 45%. Даже предупреждение о том, что текст создан искусственным интеллектом, не устраняло влияние ошибочной информации.
Чем опасны искусственные воспоминания?
Исследователи обращают внимание на потенциальные последствия использования нейросетей в судебной практике, журналистике, образовании и медицине. Особенно опасным может оказаться применение ИИ при обработке свидетельских показаний, анализе видеозаписей и составлении медицинских документов. Ошибка алгоритма способна повлиять не только на содержание отчёта, но и на то, как человек впоследствии вспоминает событие. В перспективе подобные технологии могут использоваться для манипулирования общественным мнением с помощью дипфейков, сфабрикированных видеороликов и убедительных, но недостоверных описаний исторических событий. При этом исследования пока не доказывают, что повседневное использование нейросетей неизбежно ухудшает память или приводит к её необратимым изменениям.
Может ли ИИ, наоборот, улучшать память?
У технологии есть и положительная сторона. В MIT разрабатывают интеллектуальные системы Memoro и MemPal, способные помогать пожилым людям вспоминать разговоры, события и повседневные действия. Такие цифровые помощники потенциально могут поддерживать самостоятельность людей, испытывающих возрастные проблемы с памятью. Однако возникает принципиальный вопрос: если искусственный интеллект станет внешним хранилищем наших воспоминаний, кто сможет гарантировать точность информации, которую он возвращает?
Главный вывод исследований MIT заключается в том, что нейросети способны влиять не только на информацию, которую мы получаем, но и на то, что мы считаем собственными воспоминаниями. И чем реалистичнее становится контент, созданный ИИ, тем важнее проверять его достоверность.
Меню 
Знания 
События 
Новости 
Курсы валют