Roblox уже использует ИИ для модерации голосового чата, однако финальное решение все же принимает человек

Постер Roblox. Источник: TechCrunch

Любой, кто когда-либо играл в соревновательные онлайн-игры, знает, насколько токсичным местом может быть голосовой чат в играх. В отличие от текстового чата, где для того, чтобы что-то написать, нужно время, в голосовом чате все происходит мгновенно, что делает его очень сложным в плане модерации. Чтобы решить эту проблему, Roblox активно внедряет искусственный интеллект (ИИ), однако признает, что человеческий контроль остается необходимым для обеспечения безопасной среды для игроков.

Что известно

Во время Game Developers Conference (GDC) 2025 Киран Бхат (Kiran Bhat), старший технический директор Roblox, и Ганнес Хейкинигеймо (Hannes Heikinheimo), руководитель направления безопасности голосового чата, рассказали о годе использования ИИ для модерации. Бхат отметил, что основная сложность заключается не только в выявлении оскорбительных слов, но и в понимании тона, интенсивности и контекста, которые определяют, являются ли высказывания действительно оскорбительными.

Несмотря на эти вызовы, искусственный интеллект показал высокую эффективность. Бхат объяснил, что 85% токсичного поведения сводится всего к четырем основным категориям, а большинство нарушений связаны примерно с 50 ключевыми словами. Машинное обучение прекрасно справляется с выявлением этих паттернов, значительно сокращая количество жалоб на злоупотребления в голосовом чате.

Впрочем, у ИИ есть свои ограничения. Хейкинигеймо подчеркнул, что хотя алгоритмы обеспечивают стабильность и беспристрастность, они не всегда могут правильно интерпретировать редкие или контекстно сложные случаи, где человеческая оценка остается незаменимой.

Источник: Videogamer