Las autoridades británicas anunciaron el lunes una investigación sobre la plataforma de redes sociales X, propiedad de Elon Musk, por la difusión de imágenes sexuales de mujeres y niños creadas artificialmente.
Ofcom, el regulador británico que supervisa las plataformas en línea, dicho Lanzó una investigación formal para considerar si X había violado una ley que apunta a detener la difusión de contenido ilegal “prioritario” en Gran Bretaña, incluidas imágenes íntimas no consentidas y material de abuso sexual infantil.
Imágenes sexualmente explícitas generadas por Grok, el chatbot de inteligencia artificial de Musk, han inundado X en las últimas semanas. En respuesta a las solicitudes comunes de los usuarios en X, el chatbot crea y publica automáticamente fotografías de personas reales, incluidos niños, vestimentas diminutas y situaciones sexualmente sugerentes.
Muchas mujeres que han sido objeto de imágenes sexuales producidas por Grok han reaccionado con horror y han pedido a Musk que elimine las características que permiten dicha actividad.
Ofcom dijo en un comunicado que “las plataformas deben proteger a los ciudadanos del Reino Unido del contenido que es ilegal en el Reino Unido y no dudaremos en investigar cuando sospechemos que las empresas no cumplen con sus responsabilidades, particularmente cuando existe un riesgo de daño a los niños”.
El regulador no fijó un calendario firme para la investigación, pero dijo que era un asunto de “máxima prioridad”. X podría enfrentar una multa de hasta 18 millones de libras (24 millones de dólares), o el 10 por ciento de sus ingresos globales, lo que sea mayor.
Si se determina que X ha infringido la ley y se niega a cumplir con la solicitud de acción de Ofcom, el regulador tiene el poder, si es necesario, de solicitar una orden judicial que impida a los pagadores y anunciantes trabajar con X. También puede darse el caso de que, en los casos en que el tribunal considere “daño significativo” a las personas, los proveedores de servicios de Internet tengan que bloquear completamente el acceso a la plataforma dentro del país.
Ofcom dijo que se puso en contacto con xAI, la empresa matriz que regula X y Grok, para comprender qué medidas está tomando para proteger a los usuarios en Gran Bretaña.
La semana pasada, X respondió al creciente furor por las imágenes anunciando que sólo los clientes que pagaran podrían utilizar la herramienta de creación de imágenes de Grok. Un portavoz del primer ministro británico, Keir Starmer, dijo que el cambio era “humillante” para las víctimas de abusos y violencia sexual. “Simplemente convierte una función de inteligencia artificial que permite convertir imágenes ilegales en un servicio premium”, añadió.
Musk afirmó que la controversia sobre las imágenes era una excusa para que los gobiernos atacaran la “libertad de expresión”. Recientemente publicó una foto generada por IA del señor Starmer en bikini.
“¿Por qué el gobierno del Reino Unido es tan fascista?” Musk escribió el 10 de enero. Se jactó de que las descargas de la aplicación fueron altas debido a la controversia.
No se pudo contactar a Musk ni a X para hacer comentarios.
La plataforma de redes sociales de Musk ha visto decaer su negocio en Gran Bretaña. La semana pasada la empresa dijo divulgación Se espera que los ingresos anuales caigan un 58 por ciento a 28,9 millones de libras esterlinas en 2024, mientras que el beneficio bruto caiga a 1,1 millones de libras esterlinas desde 13,5 millones de libras esterlinas.
La compañía atribuyó la caída a la caída en las ventas de publicidad porque las empresas tenían “preocupaciones sobre la seguridad de la marca, la reputación y/o la moderación del contenido”.
Durante el fin de semana, Indonesia y Malasia se convirtieron en los dos primeros países en prohibir Grok, bloqueando el acceso a la aplicación en sus países. Las autoridades de la Unión Europea, Francia, Brasil y otros países también han dicho que están revisando a X por difundir imágenes sexuales de personas sin su consentimiento.
El creciente clamor corre el riesgo de desencadenar mayores tensiones geopolíticas. El presidente Trump y otros funcionarios de la administración han defendido a Musk contra otros esfuerzos para regular X en Europa, calificándolo de un ataque a la libertad de expresión.
