- 13,854
- 20
- 8 Ноя 2022
Слово – не воробей, вылетит – будешь забанен.
В преддверии выхода новой игры Call of Duty: Modern Warfare III, запланированного на 10 ноября, компания Activision сделала необычное Для просмотра ссылки Войдиили Зарегистрируйся : в игровой процесс внедрят искусственный интеллект для модерации голосового чата.
Чтобы реализовать идею, Activision сотрудничает с Modulate. Система, получившая название ToxMod, будет обнаруживать и пресекать проявления ненависти, домогательства и другие формы агрессивного поведения.
Токсичное поведение среди геймеров — не новость, но для Call of Duty этот вопрос стоит особенно остро. Масштаб проблемы увеличивается пропорционально числу поклонников франшизы.
Разработчики уже внедрили фильтры для текстовых сообщений на 14 языках и создали умную систему жалоб от игроков. Алгоритмы позволили ограничить доступ к чату для более чем 1 миллиона аккаунтов, нарушивших правила. Интересно, что 20% получивших предупреждение больше не позволяли себе грубостей. Можно считать, обратная связь оказалась эффективной.
Важно учитывать, что алгоритмы распознавания голоса у ИИ еще не доведены до идеала. Есть риск, что поначалу будет много ложных срабатываний. Все зависит от качества аудио, акцентов и многообразия языков, а также дефектов речи. Создание системы, которая будет учитывать все эти факторы — непростая задача.
Activision подчеркивает, что в процессе модерации всегда будет участвовать человек: «Обнаружение происходит в реальном времени. Как только система распознает токсичные высказывания, она фиксирует их и категоризирует на основе “Кодекса поведения Call of Duty”. Возможно, администраторам понадобится больше контекста. Для этого нужно проанализировать похожие записи, прежде чем будет принято решение о применении санкций. Следовательно, меры будут предприниматься не мгновенно. По мере развития системы, наши процессы и скорость реакции будут совершенствоваться».
Разработка уже проходит бета-тестирование среди пользователей в Северной Америке. После выхода игры распространится на другие регионы, исключая Азию.
Если игроки не хотят, чтобы их разговоры прослушивались, они могут отключить голосовой чат в настройках. ИИ будет анализировать высказывания абсолютно каждого пользователя, без исключений.
В преддверии выхода новой игры Call of Duty: Modern Warfare III, запланированного на 10 ноября, компания Activision сделала необычное Для просмотра ссылки Войди
Чтобы реализовать идею, Activision сотрудничает с Modulate. Система, получившая название ToxMod, будет обнаруживать и пресекать проявления ненависти, домогательства и другие формы агрессивного поведения.
Токсичное поведение среди геймеров — не новость, но для Call of Duty этот вопрос стоит особенно остро. Масштаб проблемы увеличивается пропорционально числу поклонников франшизы.
Разработчики уже внедрили фильтры для текстовых сообщений на 14 языках и создали умную систему жалоб от игроков. Алгоритмы позволили ограничить доступ к чату для более чем 1 миллиона аккаунтов, нарушивших правила. Интересно, что 20% получивших предупреждение больше не позволяли себе грубостей. Можно считать, обратная связь оказалась эффективной.
Важно учитывать, что алгоритмы распознавания голоса у ИИ еще не доведены до идеала. Есть риск, что поначалу будет много ложных срабатываний. Все зависит от качества аудио, акцентов и многообразия языков, а также дефектов речи. Создание системы, которая будет учитывать все эти факторы — непростая задача.
Activision подчеркивает, что в процессе модерации всегда будет участвовать человек: «Обнаружение происходит в реальном времени. Как только система распознает токсичные высказывания, она фиксирует их и категоризирует на основе “Кодекса поведения Call of Duty”. Возможно, администраторам понадобится больше контекста. Для этого нужно проанализировать похожие записи, прежде чем будет принято решение о применении санкций. Следовательно, меры будут предприниматься не мгновенно. По мере развития системы, наши процессы и скорость реакции будут совершенствоваться».
Разработка уже проходит бета-тестирование среди пользователей в Северной Америке. После выхода игры распространится на другие регионы, исключая Азию.
Если игроки не хотят, чтобы их разговоры прослушивались, они могут отключить голосовой чат в настройках. ИИ будет анализировать высказывания абсолютно каждого пользователя, без исключений.
- Источник новости
- www.securitylab.ru
