Activision представила впечатляющие результаты внедрения искусственного интеллекта для борьбы с токсичностью в голосовом чате Call of Duty. Согласно отчету компании, использование ИИ-системы ToxMod от Modulate привело к значительному снижению повторных нарушений правил общения.

С момента запуска улучшенной системы модерации голосового чата в июне 2024 года количество неприятных ситуаций в Modern Warfare 3 и Warzone сократилось на 67%. В июле 80% игроков, получивших предупреждение, больше не нарушали правила. Общий уровень токсичности в голосовом чате упал на 43% с января 2024 года.

ToxMod работает как постоянный наблюдатель, анализирующий разговоры игроков. Система не выносит баны самостоятельно, а передает информацию модераторам-людям для принятия решений. Одна из ключевых особенностей ToxMod — способность различать дружеские подколы и реальную агрессию, анализируя тон голоса.

ИИ учитывает контекст использования потенциально оскорбительных слов. Например, если кто-то произносит расовое оскорбление и это явно задевает других игроков, нарушение будет оценено как более серьезное. При этом система распознает случаи, когда представители меньшинств сами используют такие слова в разговоре.

ToxMod также уделяет повышенное внимание защите несовершеннолетних игроков. Нарушения в присутствии детей оцениваются строже, чтобы оградить их от грубой лексики и агрессивного поведения.

Несмотря на впечатляющие результаты, внедрение подобных систем вызывает вопросы о приватности. Однако в современных реалиях, когда наши данные постоянно собираются и анализируются различными сервисами, ИИ-модерация чатов кажется меньшей из проблем.

Если цифры Activision верны, то компромисс между приватностью и комфортной игровой средой выглядит оправданным. Call of Duty давно заслужила репутацию игры с токсичным комьюнити, и автоматизация модерации может значительно улучшить ситуацию. Снижение нагрузки на команду модераторов и избавление игроков от необходимости постоянно жаловаться на нарушителей — определенно плюс для геймеров.