Indonesia y Malasia dijeron que estaban bloqueando el acceso a Grok, un chatbot de inteligencia artificial creado por Elon Musk, en medio de una creciente ira por el robot que creó imágenes sexuales de personas reales este fin de semana.
Indonesia anunció que estaba bloqueando temporalmente los chatbots de xAI, la compañía de inteligencia artificial de Musk, y el gobierno de Malasia hizo un anuncio similar el domingo. Si bien funcionarios de otros lugares han expresado preocupación y han pedido la prohibición de las imágenes, Indonesia y Malasia son los primeros países en prohibir oficialmente la aplicación.
“El gobierno considera la práctica del deepfaking sexual no consensuado como una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”, afirmó el ministro indonesio de Comunicaciones y Asuntos Digitales, Mutya Hafid, en un comunicado publicado el sábado.
X Corp, una subsidiaria de xAI, no respondió de inmediato a una solicitud de comentarios sobre la prohibición.
En las últimas semanas, imágenes sexualmente explícitas generadas por Grok han inundado X, la plataforma de redes sociales propiedad de Musk, donde los usuarios pueden solicitar chatbots para crear imágenes de personas reales, incluso colocarlas en situaciones sexuales, a veces quitarles la ropa o posarlas en poses sugerentes.
El gobierno de Indonesia lleva mucho tiempo adoptando una línea dura contra el contenido pornográfico en línea, restringiendo el acceso a sitios web como PornHub y Onlyfans. En 2018, las autoridades bloquearon brevemente TikTok, citando la prevalencia de contenido que, según las autoridades, representaba un riesgo para los niños, incluido el contenido sexual.
En Malasia, los reguladores han dicho que planean prohibir el uso de las redes sociales a los niños menores de 16 años, en parte debido a varios episodios de intimidación en línea que han provocado muertes de menores de alto perfil.
Las imágenes sexualizadas de Groke han provocado la indignación de funcionarios de todo el mundo, incluido el primer ministro británico, Keir Starmer, y el senador estadounidense Ron Wyden, demócrata de Oregón; Ed Markey, demócrata de Massachusetts; y Ben Ray Luján, demócrata de Nuevo México, quien la semana pasada envió una carta a Apple y Google pidiéndoles que eliminaran la aplicación de sus tiendas en línea.
Si bien muchos chatbots de IA tienen salvaguardas que les impiden hacerse pasar por personas reales, Musk, conocido por traspasar los límites del discurso permisible, hasta ahora se ha negado a controlar sus propias plataformas, donde han florecido el acoso y el lenguaje lleno de odio.
La producción por parte de Grok de imágenes objetables y sexualmente explícitas puede potencialmente violar las leyes contra la posesión y el intercambio de dicho contenido en varios países, particularmente porque algunas de las imágenes incluyen a niños y menores. En una publicación en X este mes, Musk dijo que cualquier usuario que ordenara a Grok producir imágenes sexualizadas de niños enfrentaría “consecuencias”.
La semana pasada, la función Grok en X restringió sus capacidades de generación de imágenes a los suscriptores, que pagan una tarifa para acceder a funciones adicionales de la aplicación. Pero los reguladores dicen que la medida hace poco para abordar el problema central y simplemente convierte la creación de imágenes inapropiadas en un servicio premium.
El viernes, el portavoz de Starmer dijo que restringir la creación de imágenes para los clientes X “no era una solución” y era “un insulto” para las víctimas de abuso y violencia sexual.
La risa es una blasfemia. Informes contribuidos desde Yogyakarta, Indonesia y Junaira Saeed De Kuala Lumpur, Malasia.
