Elon Musk acusó al gobierno del Reino Unido de utilizar su herramienta de inteligencia artificial, Grok, para crear imágenes sexuales de mujeres y niños sin su consentimiento después de que los ministros amenazaran con multas y posibles prohibiciones para su sitio de redes sociales X.
El multimillonario afirmó que Grok era la aplicación más descargada en la App Store del Reino Unido el viernes por la noche después de que los ministros amenazaran con tomar medidas si no se eliminaba la función para crear imágenes de acoso sexual.
En respuesta a la amenaza de prohibiciones del gobierno, Musk escribió: “Sólo quieren suprimir la libertad de expresión”.
Miles de mujeres han sido abusadas por usuarios de herramientas de inteligencia artificial que se utilizaron primero para transformar digitalmente fotografías completamente vestidas en microbikinis y luego se usaron para manipulación extrema de imágenes.
Se modificaron imágenes de adolescentes y niños para mostrarlos usando trajes de baño, y los expertos dijeron que parte del contenido podría clasificarse como material de abuso sexual infantil.
Algunos usuarios comenzaron a afirmar haber visto moretones en el cuerpo de las mujeres y agregar sangre a las imágenes. Las mujeres aparecen atadas, estranguladas y fusiladas.
Liz Kendall, la secretaria de tecnología, dijo el viernes que los ministros estaban considerando seriamente la posibilidad de prohibir el acceso a X en el Reino Unido.
Dijo que esperaba que Ofcom, que dijo esta semana que estaba buscando respuestas urgentes de la plataforma, anunciara la medida en unos días “no semanas”.
“X necesita controlarse y dominar estas cosas”, dijo. “Y les recordaría que en la Ley de Seguridad en Línea, hay poderes de respaldo para bloquear el acceso a los servicios si se niegan a cumplir con la ley para las personas en el Reino Unido. Y si Ofcom decide usar esos poderes, tendrán el apoyo total del Gobierno”.
El primer ministro australiano, Anthony Albanese, se hizo eco de las preocupaciones del gobierno del Reino Unido. Hablando en Canberra el sábado, Albanese dijo que “los ciudadanos del mundo merecen algo mejor”. Australia prohibió recientemente el uso de las redes sociales a los menores de 16 años.
“El uso de inteligencia artificial generativa para explotar o sexualizar a personas sin su consentimiento es aborrecible”, afirmó.
“El hecho de que esta herramienta se haya utilizado para permitir a la gente utilizar su función de creación de imágenes a través de Grok es absolutamente repugnante. Este es, una vez más, un ejemplo de cómo las redes sociales no muestran responsabilidad social”.
Algunas figuras políticas de derecha han tratado de enmarcar esto como una cuestión de libertad de expresión. En reacción a la noticia de que X podría enfrentar una posible prohibición, la ex primera ministra Liz Truss dijo: “Starmer realmente está perdiendo el control ahora”.
X acceso parcialmente restringido a Grok el viernes. Su cuenta pública pierde la capacidad de crear imágenes a pedido para usuarios gratuitos, y la función solo está disponible para clientes que pagan. También parece haber dejado de producir fotografías en bikini.
Sin embargo, la aplicación Grok, que no genera imágenes públicamente, aún es capaz de generar contenido sexual a partir de imágenes de mujeres.
Otras aplicaciones de notificación todavía están disponibles. El parlamentario laborista Jess Assato, que hace campaña contra el abuso sexual y el acoso a las mujeres, dijo que se necesitaba con urgencia una legislación para prohibir este tipo de aplicaciones.
Publicó en las redes sociales: “No es solo XAi. Esta herramienta de extracción se anunció ayer en @YouTube.
“No se violó ninguna regla”, dijo @Google en el informe.
“Necesitamos acelerar las leyes sobre la desnudez”.
Se contactó a Google para hacer comentarios.
