De acuerdo a un informe publicado el lunes por la Liga Antidifamación.
El informe del ADL Center for Technology and Society afirma que los nombres de usuario son una de las piezas de contenido más fáciles de moderar porque el sistema de registro los filtra al crear una cuenta. Según el informe, las fallas de las empresas para moderar los mensajes de odio en uno de los primeros lugares más identificables indican que las empresas de juegos no han hecho lo suficiente para abordar el odio y el extremismo en sus plataformas.
En los juegos multijugador, los nombres de usuario se muestran claramente a otros jugadores y los nombres ofensivos han sido una herramienta para crear un entorno de juego odioso y hostil, dijo la ADL.
«Los juegos en línea son uno de los espacios sociales digitales más importantes y poderosos para construir conexiones y encontrar una comunidad», dijo Daniel Kelley, director de estrategia y operaciones del Centro ADL para Tecnología y Sociedad. “Desafortunadamente, lo que las compañías de juegos dicen que están haciendo para abordar el odio en estos espacios y lo que encontramos en nuestra investigación se contradicen entre sí”.
El informe se suma a un creciente cuerpo de investigación que muestra que los juegos en línea se han utilizado para difundir extremista ideas y fotos. Los informes anuales sobre extremismo de la ADL han revelado un aumento del odio y el acoso en los juegos en línea durante los últimos cuatro años. AVD 2022 encuesta recopiló respuestas de más de 2000 estadounidenses y descubrió que la mayoría de los adultos y adolescentes experimentaban odio y acoso mientras jugaban juegos en línea.
En diciembre, los legisladores encabezados por la representante Lori Trahan, D-Mass., preguntó las compañías detrás de los mejores juegos para explicar sus esfuerzos para combatir el odio, el acoso y el extremismo en sus juegos en línea. en su respuestassolo dos de las 14 compañías de juegos destacaron su mecanismo para verificar nombres vinculados a ideologías extremistas o comportamientos inapropiados.
Los nombres de usuario también tienden a ser la indicación más obvia de extremismo en una plataforma en línea. A estudiar publicado por el Journal of Computers in Human Behavior en 2022 analizó los nombres de usuario en Reddit y descubrió que aquellos con nombres de usuario ofensivos o sexualmente explícitos tenían más probabilidades de acosar a otros usuarios y producir contenido dañino.
Los investigadores de ADL revisaron cinco juegos multijugador en línea: League of Legends, PUBG: Battlegrounds, Fortnite, Overwatch 2 y Call of Duty, todos clasificados entre los 25 mejores juegos de la lista. Red de seguimiento, un sitio web que monitorea la cantidad de jugadores en juegos populares. Los juegos, que se lanzaron entre 2009 y 2022, tienen decenas de cientos de millones de jugadores, según Tracker Network.
Moderar el lenguaje odioso y extremista en los juegos en línea es difícil porque el contexto de las palabras cambia con frecuencia, se pueden introducir nuevos términos ofensivos y los extremistas a menudo usan palabras clave. El informe dice que las empresas deben consultar con expertos y realizar un seguimiento de las nuevas palabras para abordar este problema.
Los juegos multijugador en línea han tenido problemas en el pasado para moderar el discurso de odio y el acoso basados en audio entre los usuarios, quienes pueden comunicarse a través de auriculares y micrófonos mientras juegan juntos en un juego.
“Las empresas de juegos deben hacer más para combatir la propagación de ideologías extremistas y de odio en sus plataformas de juegos en línea. Al mismo tiempo, necesitamos más transparencia sobre cómo están trabajando para abordar estos problemas”, dijo Kelley de ADL.
Cada juego tiene un código de conducta o reglas que prohíben el lenguaje ofensivo o el discurso de odio. Algunos juegos tienen políticas específicas sobre los nombres de usuario, aunque el informe cuestiona la efectividad de esas políticas dada la moderación inconsistente de los nombres de usuario.
Un portavoz de Activision Blizzard, que desarrolló Call of Duty: Warzone, y es la empresa matriz de Blizzard Entertainment y editora de Overwatch 2, dijo en un correo electrónico a NBC News: «Trabajamos constantemente para mejorar nuestras políticas y herramientas de moderación para hacer que nuestros juegos sean más seguros e inclusivos para los jugadores. Millones de jugadores en todo el mundo disfrutan de nuestros juegos, y la mayoría de ellos no se involucran en acciones ofensivas u odiosas».
El desarrollador de Fortnite, Epic Games, no respondió de inmediato a una solicitud de comentarios, ni el editor de PUBG: Battlegrounds, Krafton.
Riot Games, el desarrollador de League of Legends, no respondió a una solicitud de comentarios.
En dos juegos, los investigadores dijeron que probaron el registro de varios nombres de usuario ofensivos en cada una de las cinco categorías: antisemitismo, misoginia, racismo, anti-LGBTQ+, capacitismo y supremacía blanca.
Los resultados mostraron una moderación inconsistente de los términos ofensivos según la política de cada juego. Los investigadores obtuvieron respuestas mixtas del sistema de registro de cada juego. Por ejemplo, en Call of Duty: Warzone, se permitió un nombre de usuario anti-LGBTQ+ mientras que se rechazó otro nombre de usuario anti-LGBTQ+.
Overwatch 2 tenía los nombres de usuario menos ofensivos, según el informe. Algunas posibles razones citadas por el informe fueron que Overwatch 2 era el más nuevo de los cinco juegos y que su empresa Blizzard Entertainment invirtió en iniciativas de seguridad en línea.