El centro de la vida social para muchos jóvenes ya no es Instagram o Tiktok. Una migración tranquila pero significativa ha trasladado una interacción social auténtica a las plataformas de juego como Discord, Roblox y Steam. Si bien la atención pública y política permanece fija en las aplicaciones convencionales, los espacios centrados en los juegos se han convertido en los principales centros para una conversación sin filtrar. Este cambio también ha creado un ambiente peligroso, en gran medida sin monitorear, donde el extremismo y la explotación pueden crecer sin ser detectados.
Un tipo diferente de espacio social
Las plataformas de juego son fundamentalmente diferentes de las redes sociales orientadas al público. Aplicaciones como Tiktok están creadas para transmisión masiva y contenido viral, pero plataformas como Discord se estructuran en comunidades más pequeñas y cerradas. Funcionan más como casas clubes digitales que en etapas públicas. Este diseño fomenta un tipo diferente de interacción, una que prioriza la discusión grupal sobre la creación de una marca personal. El anonimato es fundamental para este entorno. Los usuarios operan bajo pseudoidentidades, lo que elimina muchas de las consecuencias del mundo real de expresar ideas radicales o tabú. Esto ha hecho de estas plataformas un poderoso atractivo para los jóvenes que buscan conexión sin escrutinio público.
Un caldo de cultivo no supervisado por daños
La privacidad que atrae a los usuarios también proporciona un santuario para depredadores y grupos extremistas que han sido expulsados de los sitios convencionales. Mariana Olaizola Rosenblat, asesora de políticas de NYU Stern, afirma que estos grupos se dirigen específicamente a las plataformas de juego para encontrar e influir en los jóvenes.
«Los extremistas y los depredadores van a estos espacios de juego para encontrar jóvenes altamente comprados y susceptibles, muchos de los cuales anhelan la conexión».
Esta actividad nociva es extremadamente difícil de rastrear. Las conversaciones ocurren en miles de pequeñas salas de chat privadas que son inaccesibles para los investigadores. Los usuarios a menudo enmascaran ideologías peligrosas con «Gamespeak» o en las bromas, lo que hace que la moderación sea desafiante. «La mayoría de los investigadores son básicamente ciegos a todo esto», dice Rosenblat. «No puedes entrar en estas habitaciones».
Un patrón documentado de consecuencias del mundo real
Si bien la mayoría de la actividad del usuario en estas plataformas es inofensiva, un patrón de radicalización y explotación ha llevado a tragedias documentadas del mundo real. Los riesgos teóricos ahora son hechos probados.
- Discordia fue utilizado para organizar el rally «Unite the Right» 2017 en Charlottesville y fue donde el tirador de Buffalo 2022 documentó sus planes durante meses en una conversación privada. El sospechoso del reciente asesinato del activista Charlie Kirk también pareció confesar en una conversación de discordia.
- RaBlox se enfrenta a múltiples demandas por no proteger a los niños de los depredadores. Una demanda de una familia de Iowa alega que su hija de 13 años fue secuestrada y traficada por un hombre que conoció en la plataforma. Roblox le dijo a Axios que «invierta[s] Recursos significativos en tecnología de seguridad avanzada «.
- Contracción nerviosa y Vapor También se han identificado como plataformas donde el extremismo ha encontrado un punto de apoyo. El tiroteo de Buffalo se transmitió en vivo en Twitch, y los investigadores han documentado cómo Steam se ha convertido en un centro para que los grupos de extrema derecha se conecten.
Cómo la moderación lucha por escalar
Las empresas detrás de estas plataformas enfrentan un problema estructural. Sus sistemas están construidos para la interacción rápida de igual a igual, no para la supervisión de arriba hacia abajo. Discord alberga millones de servidores privados, muchos creados y abandonados en días o semanas. Roblox genera grandes cantidades de contenido hecho por el usuario cada hora. Las herramientas de moderación tradicionales (filtros de palabras de teclas, informes reactivos y pequeños equipos de seguridad) no pueden mantenerse al día con la escala o la velocidad a la que evolucionan las comunidades nocivas. Varias empresas han introducido herramientas de detección impulsadas por la IA y pautas de la comunidad, pero estos esfuerzos están fragmentados y opacos. Los investigadores de seguridad señalan que las empresas rara vez revelan cuántos moderadores emplean, cómo se ajustan los algoritmos o cómo son los resultados de la aplicación. Esta falta de transparencia dificulta que los legisladores, los padres o los académicos evalúen si funcionan las intervenciones.
Cerrar la brecha de investigación
A diferencia de Facebook o X (anteriormente Twitter), donde se pueden raspar y analizar las publicaciones públicas, la naturaleza privada de las plataformas de juego bloquea las auditorías externas. Los investigadores independientes a menudo no pueden estudiar interacciones reales, dejando debates de seguridad dependiendo de fugas, demandas o denunciantes. Sin más acceso abierto, los encargados de formular políticas se arriesgan a actuar sobre anécdota en lugar de evidencia. Algunos expertos proponen crear portales de datos de preservación de la privacidad que permitan a los investigadores examinados estudiar tendencias dañinas sin exponer las identidades de los usuarios. Otros defienden los informes de seguridad obligatorios, similares a los estándares de seguridad alimentaria o de seguridad laboral, eso requeriría que las empresas publiquen métricas en informes de abuso, personal moderador y resultados de protección infantil.
Construyendo bienes comunes sociales más seguros
Es poco probable que los jóvenes abandonen estos espacios. Ofrecen pertenencia, expresión creativa y amistades reales que las redes convencionales no pueden proporcionar cada vez más. El desafío no es cerrarlos, sino tratarlos como los nuevos bienes sociales en los que se han convertido, espacios que requieren reglas, administración y responsabilidad. Los pasos prácticos podrían incluir estándares de diseño apropiados para la edad, controles de los padres más fuertes, vías más claras para las solicitudes de aplicación de la ley y auditorías independientes de herramientas de seguridad. Las plataformas de juego también pueden colaborar en bases de datos de amenazas compartidas o protocolos de respuesta rápida para el contenido extremista, al igual que las instituciones financieras comparten datos para combatir el fraude.
Un punto de inflexión para la seguridad en línea
Las audiencias del 8 de octubre probarán si los legisladores entienden el alcance del problema y pueden ir más allá del interrogatorio simbólico de los ejecutivos de tecnología. Sin estándares más fuertes, los mismos factores que hacen que las plataformas de juego sean atractivas (comunicación, anonimato y libertad creativa) continuarán haciéndolos atractivos para aquellos que buscan dañar. Reconociendo estos espacios como el Reales centros sociales de la juventud de hoy es el primer paso para gobernarlos con la seriedad que exigen.
