В августе OpenAI с размахом представила ChatGPT for Teens, отдельный режим для пользователей 13–17 лет. Компания обещала родительский контроль, оповещения о тревожных разговорах и учебный режим. Спустя два месяца независимая проверка поставила продукту худшую из возможных оценок.
Американская некоммерческая организация Common Sense Media, которая оценивает безопасность цифровых продуктов для детей, присвоила ChatGPT for Teens рейтинг «неприемлемый риск» (Unacceptable Risk). Организация призвала OpenAI не пускать подростков в чат-бот, пока недостатки не устранены. Об этом 7 октября сообщило издание Axios.
Читайте также
Молотком по лицу и переломы ног — на что идут мужчины ради красоты из соцсетей
Специалисты Института безопасности ИИ для молодёжи (Youth AI Safety Institute) при Common Sense Media отправили более 4000 запросов с аккаунтов, зарегистрированных на подростков. Они проверяли, как бот реагирует на опасные темы, работают ли оповещения родителей и можно ли обойти ограничения.
Что получилось в итоге? Начнём с хорошего. ChatGPT в целом не давал инструкций, которые облегчили бы суицид, самоповреждение или расстройство пищевого поведения. От романтических ролевых игр он тоже отказывался.
Проблема в другом. Бот плохо понимает, когда подростку нужна помощь живых людей. Более чем в каждом четвёртом случае, где тестировщики ждали направления к кризисной службе, его не последовало.
Родительский контроль тоже дал сбой. На более чем десятке аккаунтов, привязанных к родителям, тестировщики до часа обсуждали суицид и самоповреждение. Ни одного оповещения родители не получили.
Учебный режим (Study Mode) оказался формальностью. Подросток нажимает кнопку «Показать ответ» и получает готовое решение. Учебные часы, установленные родителями, обходятся так же легко.
«ChatGPT небезопасен для детей», заявил Axios глава института Том Сигел (Tom Siegel). По его словам, августовский анонс больше напоминает маркетинг, за которым не стоит реальная инженерная работа.
Компания OpenAI с выводами не согласна. По её словам, многие тесты оповещений прошли до того, как аккаунты родителя и подростка успели связаться, а на это уходит несколько часов. Возраст пользователя система определяет по нескольким признакам и может тратить на это до двух недель. Свободный выход из учебного режима OpenAI называет осознанным решением, принятым после консультаций с педагогами и самими подростками. Кроме того, по внутренним данным компании, контакты горячих линий стали показывать несовершеннолетним чаще.
По данным Common Sense Media, более 70% американских подростков обращаются к чат-ботам за общением. Младшие подростки 13–14 лет особенно склонны доверять их советам. Для многих ИИ становится собеседником в трудную минуту.
Проблема касается не только OpenAI. В более раннем исследовании, проведённом совместно со Стэнфордской медицинской школой, ChatGPT, Claude, Gemini и Meta AI одинаково плохо распознавали у подростков признаки тревожности, депрессии и других состояний.
Вывод эксперта прост: заботу о детях нельзя перекладывать на технологический продукт, который пока сырой и полон ошибок. Говорить с подростком об ИИ и его рисках по-прежнему должны родители.
Меню 
Знания 
События 
Новости 
Курсы валют