Roblox запустила новую функцию на базе искусственного интеллекта, которая в реальном времени переписывает сообщения игроков, заменяя маты, оскорбления и завуалированные оскорбительные выражения на более нейтральный текст. Это радикальный шаг в развитии контент‑модерации на одной из самых популярных игровых платформ с аудиторией более 70 миллионов активных пользователей в день. Вместо привычных «решёток» Roblox теперь пропускает каждое исходящее сообщение через ИИ‑систему, которая анализирует текст, выявляет запрещённые слова, сленг и скрытые оскорбления, а затем предлагает «очищенную» версию сообщения. Например, фраза «Hurry TF up!» автоматически превращается в «Hurry up!» ещё до того, как её увидят другие игроки. При этом в чате отображается уведомление о том, что сообщение было изменено ИИ ради соблюдения правил общения.
Разработчики подчёркивают, что цель технологии — сохранить первоначальный «замысел» игрока, одновременно удаляя токсичные элементы и грубость. Благодаря этому команды в динамичных матчах не «ломаются» из‑за полностью заблокированных реплик, а игровой процесс остаётся понятным и непрерывным. Раньше многие сообщения превращались в сплошную полосу «####», что вызывало раздражение и делало коммуникацию бессмысленной даже в невинных контекстах. Теперь компания делает ставку на «контекстно‑осознанную» модерацию: ИИ должен различать настоящую токсичность и безобидные формулировки, снижая число ложных срабатываний. Кроме того, обновлённый фильтр лучше распознаёт обходные методы — вроде leetspeak (распространившийся в Интернете стиль применения английского языка) и креативных написаний оскорблений.
Читайте также
Почему инвесторы вывели 171 млн долларов из Bitcoin ETF и стоит ли паниковать?
Roblox уже несколько лет активно строит многоуровневую систему безопасности с использованием машинного обучения для блокировки экстремизма, сексуального контента, буллинга и попыток выманить личные данные. По словам компании, новые модели позволили в десятки раз снизить долю сообщений, где пользователи пытаются поделиться или запросить персональную информацию. Однако не все в восторге от того, что платформа «переписывает» слова игроков. Критики задаются вопросом, где проходит грань между разумной модерацией и прямым вмешательством в личную коммуникацию, особенно с учётом того, что система работает в реальном времени и непрерывно «читает» все сообщения. Для части аудитории идея того, что ИИ незаметно редактирует их высказывания, может выглядеть как нормализация тотального контроля над речью в онлайне.
С другой стороны, Roblox остаётся в первую очередь детской и подростковой платформой и компания несёт прямую ответственность перед родителями и регуляторами за уровень безопасности в играх. В условиях ужесточения требований к модерации контента и росту объёмов пользовательского общения без автоматизации на базе ИИ поддерживать такой масштаб уже практически невозможно. Новая ИИ‑функция Roblox — показательный пример того, как будущее онлайн‑игр и социальных платформ будет всё больше зависеть от «умной» фильтрации и рефрейминга контента, а не от грубых блокировок. От того, насколько аккуратно и прозрачно такие системы будут развиваться сейчас, зависит форма цифровой коммуникации целого поколения.
Меню 
Знания 
События 
Новости 
Курсы валют