Пока Google и Илон Маск предлагают пользователям новые версии генеративного интеллекта для создания картинок, прокурор из Сан-Франциско пытается защитить знаменитостей и простых людей от сексуальных домогательств при помощи ИИ.
14 августа Илон Маск показал, как его нейросеть Grok 2 генерирует изображения, спустя два дня уже Google продемонстрировал доработанную версию своей нейросети Imagen 3. Последние версии ИИ позволяют генерировать реалистичные изображения, практические лишенные недостатков и изъянов.
Однако прокурор из Сан-Франциско Дэвид Чиу (David Chiu), постарается доказать в суде, что у развития технологий есть и темная сторона. Чиу возглавит коллективный иск против веб-сайтов, которые при помощи генеративного ИИ предлагают «раздеть» женщин и девушек. Только в США 18 самых популярных сайтов данной направленности за первое полугодие 2024 года посетили более 200 млн раз. При этом целью «обнажения» становятся не только знаменитости, но и простые граждане.
«Изображения, которые практически неотличимы от реальных фотографий, используются для вымогательства, запугивания, угроз и унижения женщин», — говорится в обращении прокурора. Кроме того данная технология может позволяют «запутать следы» реальных преступлений, в том числе, направленных против детей. «Это не инновация — это сексуальное домогательство», — добавил Чиу. Интернет может просто утонуть в сгенерированных изображениях, позволив реальным преступникам уйти от ответственности.
Поэтому Дэвид Чиу требует от сервисов выплатить по $2500 за каждое нарушение. Кроме того регистраторы доменных имен должны заблокировать существующие сайты и впредь отказывать в регистрации подобных сервисов, а платежные сервисы отказывать в проведении оплаты «за услуги по обнажению».
Разработчики нейросетей давно обещают добавить «этические фильтры», которые будут блокировать нежелательный контент и защищать простых граждан. Однако пока они либо не справляются с данной задачей, либо злоумышленники мастерски их обходят.
