Создать профиль

ИИ научит геймеров следить за языком

0

Editor img 4852

Голосовой чат в Call of Duty: Modern Warfare 3 – теперь под контролем искусственного интеллекта.

Токсичное поведение, угрозы, троллинг и ругательства – все это неотъемлемая часть любого сообщества в многопользовательских играх. Но особенно остро эта проблема стоит для игр серии Call of Duty. В прошлом году компания Activision Blizzard не только разом забанила 500 000 игроков за агрессивные высказывания, но и была вызвана в Конгресс США для слушаний об экстремизме в видеоиграх.

Почти год назад мы уже рассказывали о планах Activision Blizzard привлечь ИИ для защиты игроков, и вот теперь они начали реализовываться. С 30 августа (сначала в бета-режиме, а с релизом новой части Call of Duty: Modern Warfare 3 – и на постоянной основе) все разговоры игроков в голосовом чате будут анализироваться системой ToxMod, разработанной компанией Modulate. Новая разработка дополнит уже существующую систему контроля за игроками, которая включает как живых модераторов, так и автоматическую фильтрацию внутриигрового текста на 14 языках.

Как работает алгоритм ToxMod, не совсем понятно: описание ограничивается общими фразами про машинное обучение и продвинутые логические модели. В Activision Blizzard обещают, что система модерации голосовых чатов для игр серии Call of Duty будет собирать и классифицировать данные только о токсичном поведении. Но на сайте Modulate анонсированы и более широкие возможности.

Так система может обнаружить:

– Продвижение или распространение идеологии
– Попытки вербовки или призывы присоединиться к группе лиц или общественному движению
– Воздействие на уязвимые группы лиц (например, детей и подростков)
– Планирование насильственных действий или физического насилия

Как показало исследование Activision, главная причина токсичности –  это безнаказанность. Простого предупреждения оказалось достаточно, чтобы 20% игроков изменили свое поведение в лучшую сторону. «В играх никогда не будет места деструктивному поведению или домогательствам. Борьба с разрушительным использованием внутриигрового голосового чата всегда была экстраординарной задачей», – сказал технический директор Activision Майкл Вэнс (Michael Vance).

В компании отмечают, что технологии анализа речи достигли такого уровня, что позволяют в реальном времени отслеживать нарушителей правил общения по всему миру. Поэтому в скором времени о буллинге, токсичности или домогательствах в видеоиграх можно будет забыть.