Крупный разработчик видеоигр Activision Blizzard разворачивает сотрудничество с исследователями в создании искусственного интеллекта для защиты от читеров, троллей и абьюзеров в играх. Двухлетний проект, ставит целью выявление вредоносного поведения игроков, и разработку моделей по его предотвращению.
К игровой фирме присоединяются старший директор по исследованиям искусственного интеллекта в Nvidia и профессор Университета Калифорнии Анима Анандкумар (Anima Anandkumar), а также профессор политических и вычислительных социальных наук (political and computational social science) Майкл Альварес (Michael Alvarez). По мнению исследователей из Caltech, токсичное поведение делает видеоигры неприятным местом для пребывания: троллинг, расизм, сексизм, преследования и сексуальные домогательства мешают миллионам игроков наслаждаться игрой.

Tether расширяет инвестиции в ИИ
Первым шагом исследователей станет изучение игроков: «Мы хотим знать, как взаимодействуют игроки. Какой язык они используют? Какие у них предубеждения? Что мы должны искать? Это требует экспертных знаний в предметной области», — сказал Анандкумар.
Далее предполагается разработать и обучить искусственный интеллект обнаруживать и блокировать троллинг в Call of Duty, World of Warcraft и новых играх компании. Как говорит Майкл Альварес: «Мы уже знаем, как использовать большие данные и машинное обучение для выявления токсичных разговоров и поведения. Совместная работа с коллегами из Activision дает нам возможность изучить токсичное поведение в новой и важной области — играх».
И, наконец, третий шаг — внедрение новых инструментов в игровой процесс. Activision Blizzard постоянно совершенствует игровую политику, но этого недостаточно. По мере расширения числа пользователей стало невозможно полагаться на человека в деле защиты от нечестного поведения со стороны других игроков, поэтому нужны более совершенные и автоматизированные инструменты.
Действия компании согласуются и с интересами правительства США, ведь Activision Blizzard была одной из игровых фирм, у которой члены Конгресса хотели выяснить, как ведется борьба с экстремизмом.