nuevo¡Puedes escuchar los artículos de Fox News ahora!
El gobierno británico intensificó el lunes su ofensiva contra los abusos sexuales generados por IA después de que los ministros confirmaran una posible prohibición de la plataforma de redes sociales X de Elon Musk en medio de una amplia investigación y multas potencialmente elevadas para la empresa.
La dramática medida se produce después de que el regulador de comunicaciones del Reino Unido, Ofcom, iniciara una investigación formal sobre si X violó sus obligaciones legales bajo las leyes de seguridad en línea del Reino Unido e informara que el chatbot de inteligencia artificial incorporado en la plataforma, Grok, se utilizó para crear y compartir imágenes sexualmente explícitas y falsificadas de mujeres y niños.
Grok se lanzó en 2023, pero su función de generación de imágenes, Grok Imagine, se agregó en 2025 con un modo específico para crear contenido para adultos.
La secretaria de Estado de Ciencia, Innovación y Tecnología, Liz Kendall, describió el uso indebido de herramientas de inteligencia artificial para crear imágenes sexualizadas y no consensuadas como “profundamente perturbador”.
Kendall también advirtió que las empresas de redes sociales tendrán que rendir cuentas si no actúan.
El extremista egipcio admirado por Starmer se enfrenta a una investigación antiterrorista por el resurgimiento de los tuits
La secretaria de Estado de Ciencia, Innovación y Tecnología, Liz Kendall, ha advertido que Ofcom tiene el poder de imponer “multas millonarias” o multas de hasta el 10% de los ingresos globales calificados de una empresa. (Rashid Necati Aslim/Anadolu vía Getty Images)
“Doy la bienvenida a la urgencia de Ofcom de iniciar una investigación formal hoy”, dijo Kendall, según. a Reuters. “Es vital que Ofcom complete esta investigación rápidamente ya que el público -y lo más importante, las víctimas- no aceptarán ningún retraso”.
A declaraciones separadas Compartido más tarde el lunes, Kendall dijo que la herramienta Grok AI se utilizó para crear y promover imágenes íntimas despectivas y no consensuadas.
“Ninguna mujer o niño debería vivir con el temor de que sus imágenes hayan sido manipuladas sexualmente por la tecnología”, dijo, antes de agregar: “El contenido que circula en X es repugnante. No sólo es una afrenta a la sociedad decente, sino que es ilegal”.
Kendall agregó que compartir o amenazar con falsificar fotos íntimas sin consentimiento, incluidas fotos de personas en ropa interior, es un delito según la ley del Reino Unido.
Los legisladores presentan la Ley GUARD bipartidista después de que los padres culparan a los chatbots de IA por los suicidios y la violencia de adolescentes
El gobierno británico está tomando medidas enérgicas contra el acoso sexual generado por IA, y los funcionarios confirman una posible prohibición del X de Elon Musk como parte de una investigación más amplia. (José Luis Magaña/Foto AP)
Advirtió que Ofcom tenía facultades para emitir “Multa de un millón de dólares” o una multa de hasta el 10% de los ingresos mundiales calificados de una empresa.
“Pero X no tiene que esperar a que termine la investigación de Ofcom”, dijo Kendall. “Pueden optar por tomar medidas antes para garantizar que este material odioso e ilegal no pueda compartirse en sus plataformas”, advirtió.
Ofcom dijo que había hecho un “contacto urgente” con X el 5 de enero, exigiendo una explicación sobre las medidas que había tomado para proteger a los usuarios del Reino Unido y fijó como fecha límite de respuesta el 9 de enero.
Mientras xAI, otra empresa fundada por Musk, respondía, Ofcom dijo que había decidido abrir una investigación formal después de revisar las pruebas disponibles “como una cuestión de máxima prioridad”.
En una declaración Ofcom compartió el lunes que “los informes de que Grok está siendo utilizado para crear y compartir imágenes íntimas ilegales no consensuadas y material de abuso sexual infantil en X son profundamente preocupantes”.
“Las plataformas deben proteger a los ciudadanos del Reino Unido del contenido que es ilegal en el Reino Unido y no dudaremos en investigar cuando sospechemos que las empresas no cumplen con sus responsabilidades, particularmente cuando existe un riesgo de daño a los niños”, dice el comunicado.
OpenAI endurece las reglas de IA para adolescentes, pero persisten las preocupaciones
El logotipo del chatbot de IA Grok, desarrollado por la empresa xAI y fundado por Elon Musk en 2023, se puede ver en la pantalla de un iPhone colocado sobre el teclado de una computadora portátil. (Silas Stein/Photo Alliance vía Getty Images)
Como informó anteriormente Fox News Digital, el chatbot admitió en una publicación pública en X que había creado y compartido una imagen de IA que mostraba a dos mujeres jóvenes con ropa sexual, calificando el incidente como una “falta de salvaguardia” y disculpándose por el daño.
En medio de crecientes críticas, Grok ha confirmado que ha comenzado a restringir algunas funciones de generación y edición de imágenes a los clientes que pagan. El chatbot dijo que las restricciones se implementaron para evitar mayores abusos.
Musk también acusó el lunes al gobierno del Reino Unido de “fascismo” por “arrestar a miles de personas por publicaciones en las redes sociales”.
El multimillonario fundador de Tesla respondió a una publicación en X que afirmaba que el país arresta a más personas por publicaciones en las redes sociales “que cualquier otro país del mundo”.
Paralelamente a la investigación de Ofcom, el gobierno del Reino Unido anunció que esta semana entrará en vigor una legislación que penaliza la producción de imágenes íntimas no consentidas generadas por IA.
Kendall dijo que la responsabilidad no recae sólo en los individuos.
Haga clic aquí para descargar la aplicación Fox News
“Las plataformas que albergan dicho material deben rendir cuentas ante X”, afirmó.
Si no funcionan, dijo que está “listo para ir más lejos”.
Mientras tanto, el portavoz oficial del primer ministro británico, Keir Starmer, dijo que la presencia del gobierno en la plataforma estaba “bajo revisión” y que “todas las opciones están sobre la mesa”.
D Prensa asociada El lunes también se informó que Malasia e Indonesia se habían convertido en los primeros países en bloquear a Grok.
Fox News Digital se comunicó con las oficinas de Elon Musk y el primer ministro Keir Starmer para solicitar comentarios.
Associated Press y Reuters contribuyeron a este informe.
