На фоне масштабных пожаров в Калифорнии (США) в социальных сетях распространилась фотография, на которой культовый символ — надпись «Hollywood» — объят пламенем. Однако эти изображения оказались полностью сфальсифицированными с помощью инструментов искусственного интеллекта. Теперь пожарные вынуждены бороться не только с пожарами, но и с фейками.
Сгенерированное ИИ изображение вывески «Hollywood», окруженное пламенем.
Это не первый случай, когда природный катаклизм усугубляется фейками. Подобная тактика использовалась и во время урагана «Хелен», который в сентябре 2024 года нанес катастрофический ущерб Юго-Восточному побережью США. Мошенники распространяли созданные искусственным интеллектом изображения разрушений и мародерства в районах, не затронутых ураганом, чтобы усугубить панику. По мнению Тима Венинджера (Tim Weninger), профессора компьютерных наук и инженерии в Университете Нотр-Дам (University of Notre Dame), у такого поведения две причины: «Во-первых, это троллинг, некоторые думают, что это весело. Но у этого может быть и более глубокая социальная причина, например — что Калифорния заслуживает того, чтобы сгореть».
Благодаря невероятной правдоподобности и всепроникающей мощи социальных сетей изображения, созданные с помощью нейросетей, распространяются подобно вирусу. Ничего не подозревающие пользователи, особенно те, кто не знаком с ситуацией в регионе или особенностями кризиса, более склонны верить в фейки. Часто эта проблема усугубляется отсутствием коммуникации со стороны государственных чиновников, из-за чего общественности труднее отличить факты от вымысла.
И эту проблему невозможно решить при помощи модерации, тем более что модераторы часто сами бывают подвержены стереотипам или когнитивным искажениям. Как добавил Венинджер, само общество должно измениться: «Мы недостаточно ценим обмен точной и правдивой информацией. Технологии не могут сделать это за нас».
