Голосовой чат в Call of Duty: Modern Warfare 3 — теперь под контролем искусственного интеллекта.
Токсичное поведение, угрозы, троллинг и ругательства — все это неотъемлемая часть любого сообщества в многопользовательских играх. Но особенно остро эта проблема стоит для игр серии Call of Duty. В прошлом году компания Activision Blizzard не только разом забанила 500 000 игроков за агрессивные высказывания, но и была вызвана в Конгресс США для слушаний об экстремизме в видеоиграх.
Почти год назад мы уже рассказывали о планах Activision Blizzard привлечь ИИ для защиты игроков, и вот теперь они начали реализовываться. С 30 августа (сначала в бета-режиме, а с релизом новой части Call of Duty: Modern Warfare 3 — и на постоянной основе) все разговоры игроков в голосовом чате будут анализироваться системой ToxMod, разработанной компанией Modulate. Новая разработка дополнит уже существующую систему контроля за игроками, которая включает как живых модераторов, так и автоматическую фильтрацию внутриигрового текста на 14 языках.
Как работает алгоритм ToxMod, не совсем понятно: описание ограничивается общими фразами про машинное обучение и продвинутые логические модели. В Activision Blizzard обещают, что система модерации голосовых чатов для игр серии Call of Duty будет собирать и классифицировать данные только о токсичном поведении. Но на сайте Modulate анонсированы и более широкие возможности.
Так система может обнаружить:
— Продвижение или распространение идеологии
— Попытки вербовки или призывы присоединиться к группе лиц или общественному движению
— Воздействие на уязвимые группы лиц (например, детей и подростков)
— Планирование насильственных действий или физического насилия
Как показало исследование Activision, главная причина токсичности — это безнаказанность. Простого предупреждения оказалось достаточно, чтобы 20% игроков изменили свое поведение в лучшую сторону. «В играх никогда не будет места деструктивному поведению или домогательствам. Борьба с разрушительным использованием внутриигрового голосового чата всегда была экстраординарной задачей», — сказал технический директор Activision Майкл Вэнс (Michael Vance).
В компании отмечают, что технологии анализа речи достигли такого уровня, что позволяют в реальном времени отслеживать нарушителей правил общения по всему миру. Поэтому в скором времени о буллинге, токсичности или домогательствах в видеоиграх можно будет забыть.
