Готово ли общество отдать своих детей ИИ?

Google призывает родителей быть внимательными, потому что чат-бот Gemini может ошибаться. В чем же?

Компания Google запускает возможность использовать чат-бот Gemini детьми до 13 лет. Сервис станет доступен через управляемые родителями аккаунты Family Link, которые позволяют контролировать использование Gmail, YouTube и других приложений платформы Google. Gemini обещает помощь в обучении: ответы на вопросы, поддержку с домашними заданиями и генерацию творческих идей.

Читайте также

Читайте также

CBDC: и хочется, и колется

Вячеслав Гулай

Рынки

Google, тем не менее,  акцентирует внимание на мерах безопасности. В этих целях применяются фильтрация контента, запрет на использование данных для обучения моделей и уведомление родителей о первом доступе к чат-боту. По словам представителя компании Карла Райана (Karl Ryan), Gemini соответствует федеральному  (США) закону о защите данных детей в интернете. Тем не менее Google рекомендует родителям учить детей проверять факты и чаще напоминать, что ИИ — это не человек!

И все равно эксперты выражают тревогу. В докладе некоммерческой организации Common Sense Media ИИ-компаньонов называют «неприемлемым риском» для детей, особенно подростков до 18 лет. Все — из-за способности ИИ генерировать вредный контент, включая сексуальные намеки и опасные советы. Кроме того, ЮНИСЕФ, крупнейшая организация, которая защищает права детей, предупреждает, что дети могут путать ботов с людьми. А это, разумеется, повышает риск манипуляций.

Критики общения детей с ИИ-ботами ссылаются на: недостаточную прозрачность алгоритмов фильтрации; возможные уязвимости в защите данных; этичность и своевременность замены учителей — на ИИ. К тому же дополнительные вопросы вызывает долгосрочное влияние ИИ на когнитивное развитие. Ранее в Microsoft заметили, что зависимость от цифровых помощников может снизить навыки критического мышления и социализации. Даже так. Поэтому успех Gemini и других интеллектуальных инструментов во многом зависит от готовности общества адаптироваться к технологическим изменениям.

Готово ли общество?