La plataforma de juegos online Roblox lanzó esta semana un nuevo sistema para estimar la edad de los usuarios analizando imágenes de sus rostros. La compañía dice que la función está destinada a evitar que niños y adolescentes charlen con usuarios mayores que no conocen.
La medida se produce cuando los gobiernos de todo el mundo promulgan nuevas reglas en las redes sociales destinadas a proteger a los menores. Uno de los primeros países en introducir la verificación facial de Roblox es Australia, que el próximo mes prohibirá a los niños menores de 16 años tener cuentas en las redes sociales, una de las primeras prohibiciones a nivel nacional.
Roblox aunque Exento por el momento Debido a que está clasificada principalmente como una plataforma de juegos, los funcionarios australianos dijeron que continuarán probando la seguridad de la compañía para los usuarios más jóvenes.
Esto es lo que debe saber:
¿Qué es Roblox y por qué lo hace?
En Roblox, los jugadores ingresan a un mundo virtual donde pueden jugar y chatear usando personajes digitales.
Alrededor de 50 millones de usuarios activos diarios de Roblox tienen 13 años o menos, lo que representa aproximadamente un tercio de los usuarios globales de la plataforma. Esto convierte a Roblox en un importante lugar de reunión para niños en línea.
Las principales redes sociales como Facebook e Instagram exigen que los usuarios tengan al menos 13 años para abrir una cuenta, aunque estas restricciones pueden ser difíciles de hacer cumplir. A diferencia de estas plataformas, Roblox aún no ha impuesto restricciones de edad a los usuarios.
La compañía dijo que ha empleado durante mucho tiempo una serie de medidas de seguridad que ayudan a proteger a los niños que utilizan funciones de chat en el juego, incluidos controles parentales, monitoreo de mensajes de voz y texto por IA, y filtros de chat que bloquean la obscenidad y la información que puede usarse para identificar a las personas.
Sin embargo, el material obvio se ha escapado. Roblox hay juegos Recreación del tiroteo masivo y representaba avatares de usuarios participando en actividades sexuales gráficas..
“Estamos trabajando muy duro para construir sistemas que eviten que estas cosas sucedan”, dijo Matt Kaufman, director de seguridad de Roblox.
También la crianza de niños, la explotación sexual o, en un caso este año, se informó, Secuestro Por alguien que se conoció en Roblox.
¿Cómo estima Roblox la edad?
Roblox dice que su objetivo es garantizar que los usuarios sólo puedan chatear con otras personas de la misma edad o con personas conocidas como “conexiones confiables” en la vida real.
La estimación de edad en Roblox es voluntaria durante las próximas semanas. Será obligatorio en Australia, Países Bajos y Nueva Zelanda a principios de diciembre. La empresa dijo. A partir de enero, será obligatorio dondequiera que esté disponible la función de chat de la aplicación.
Kaufman reconoció que el sistema de verificación de edad no es perfecto, pero dijo que es mucho mejor que pedir a los usuarios que proporcionen su edad. Dijo que el sistema es particularmente preciso cuando evalúa a personas entre cinco y 25 años.
“Si tienes una mejor idea de la edad de todos los usuarios, y si los usuarios están participando en una discusión o jugando juntos en un servidor de juegos o algo así, puedes hacer un mejor trabajo con la seguridad y el civismo”, dijo.
Se pide a los usuarios que giren ligeramente la cabeza en cualquier dirección, creando imágenes que se utilizan para estimar su edad. Roblox dijo que las imágenes fueron capturadas y analizadas por una empresa independiente, Persona.
Los niños y usuarios más jóvenes se ubicarán en tramos de edad: 9 a menos, 9 a 12, 13 a 15, 16 a 18 y 18 a 20.
Un usuario estimado en 12 años, por ejemplo, puede chatear con usuarios de su grupo de edad, así como con usuarios superiores e inferiores, pero no con usuarios estimados en 16 años o más. Se bloqueará el chat con cualquier persona menor de 18 años, dijo la compañía.
¿Existen riesgos para la privacidad?
Roblox dice que las imágenes faciales de los usuarios se eliminan a medida que se procesan, lo que reduce las amenazas a la privacidad.
El director ejecutivo de Roblox, David Baszucki, dijo en una entrevista con el podcast “Hard Fork” del New York Times que el análisis facial es una herramienta adicional entre muchas para verificar la edad. “Estamos haciendo un montón de seguimiento”, dijo. “Pero agregarle una señal más realmente puede ayudarnos a tomar grandes decisiones”.
Pero aunque las empresas de tecnología dicen que los datos de los usuarios están seguros, ha habido ataques y violaciones de datos. Este año, T Dating Advice, una aplicación que permite a las mujeres preocupadas por su seguridad compartir información sobre hombres con los que podrían salir, dijo que los piratas informáticos obtuvieron acceso a 72.000 imágenes, incluidas selfies e identificaciones fotográficas de sus usuarios.
Louise Keller, portavoz de la Sociedad Nacional para la Prevención de la Crueldad contra los Niños, un grupo de defensa británico, calificó la nueva herramienta de verificación de edad de Roblox como un paso positivo hacia la protección de los niños en línea.
Si bien Roblox monitorea los mensajes privados en la plataforma, el principal riesgo para los niños es que los usuarios trasladen sus conversaciones a plataformas cifradas donde los mensajes no se pueden monitorear fácilmente, dijo.
Añadió que a medida que más plataformas utilizan cámaras de dispositivos para estimar las edades de los usuarios, es importante que las imágenes se utilicen sólo para ese propósito y no se vinculen a cuentas después del proceso de verificación.
¿Roblox ha enfrentado algún desafío legal?
Roblox se ha enfrentado a demandas contra la empresa por supuestamente permitir la explotación sexual, a veces coaccionando o manipulando a los usuarios para que compartan contenido sexual explícito o participen en actividades sexuales. Este año se presentaron decenas de demandas en tribunales federales, según una reciente revisión de registros públicos del New York Times.
En un caso, una madre de San Diego demandó a Roblox en septiembre, acusándola de muerte por negligencia después de que su hijo adolescente se suicidara en 2024. La madre, Becca Dallas, dijo que su hijo Ethan le dijo que la obligó a enviarle imágenes sexualmente explícitas cuando la conoció en la plataforma cuando tenía 7 años. Ethan identificó al compañero jugador de Roblox como un niño, pero la Sra. Dallas luego se enteró por agentes de la ley de que probablemente era un hombre de 37 años.
