Grok от Илона Маска: скандал с 23 тысячами сексуализированных изображений детей, попал под огонь критики из-за массового создания сексуализированного контента с участием детей. Согласно отчету Center for Countering Digital Hate (CCDH), за 11 дней с 29 декабря по 9 января Grok сгенерировал около 23338 таких изображений — это одно изображение каждые 41 секунду. Общий объем сексуализированных картинок достиг 3 миллионов, из которых почти 10 тысяч — мультфильмы с детьми в провокационных позах.
Анализ основан на выборке из 20 тысяч изображений из 4,6 миллиона, созданных Grok. 65% из них содержали сексуальный подтекст: бикини, нижнее белье и откровенные позы на фото реальных людей, включая знаменитостей вроде Селены Гомес и Камалы Харрис. CEO CCDH Имран Ахмед заявил The Guardian: «Grok стал промышленной машиной по производству материалов о сексуальном насилии». Проблема не в полной обнаженке, а в «мягкой» сексуализации несовершеннолетних.
Читайте также
OpenAI запускает ИИ-смартфон вместе с Qualcomm несмотря на финансовые проблемы
Реакция властей и запреты
Скандал спровоцировал глобальный резонанс. Филиппины 15 января запретили Grok — третья страна после Индонезии и Малайзии, ссылаясь на неприемлимый контент с детьми. В Великобритании Ofcom начал расследование по Online Safety Act, Еврокомиссия «очень серьезно» изучает ситуацию по Digital Services Act, а прокуратуры Австралии и Калифорнии проверяют xAI на производство детской порнографии. В Ирландии Garda расследует 200 случаев.
Ответ Маска и xAI
Сначала xAI отмахнулась: «Legacy Media Lies». Потом ввели ограничения: 9 января генерацию фото только для платных пользователей X, 14 января — блокировку «раздевания» людей, плюс геоблокировку в запрещенных регионах. Маск написал в X: «Знаем о детских изображениях от Grok. Ноль толерантности», обещая отказ от нелегальных запросов. Однако треть выявленных изображений оставалась на X на 15 января. Этот инцидент поднимает вопросы этики ИИ: где грань между свободой и защитой детей? Пока расследования идут, Grok остается под прицелом регуляторов.
Меню 
Знания 
События 
Новости 
Курсы валют