Indonesia bloqueó temporalmente el chatbot Grok de Elon Musk el sábado debido al riesgo de contenido pornográfico generado por IA, convirtiéndose en el primer país en negar el acceso a la herramienta de IA.
La medida se produce después de que gobiernos, investigadores y reguladores desde Europa hasta Asia condenaran la aplicación y algunos comenzaran a buscar contenido sexual en ella.
XAI, la startup detrás de Grok, dijo el jueves que estaba restringiendo la creación y edición de imágenes a los clientes que pagan, mientras buscaba corregir fallas de seguridad que permitían la producción sexualizada, incluidas representaciones de niños con poca ropa.
“El gobierno considera la práctica de deepfakes sexuales no consentidos como graves violaciones de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”, afirmó en un comunicado el ministro de Comunicaciones y Digital, Meutya Hafid.
El ministerio también ha convocado a X funcionarios para discutir el asunto.
Musk dijo en X que cualquiera que use Grok para crear contenido ilegal sufriría las mismas consecuencias que si hubiera subido contenido ilegal.
xAI respondió al correo electrónico de Reuters con lo que parecía ser una respuesta automática: “Los medios heredados mienten”. X respondió inmediatamente a una solicitud de comentarios.
Indonesia, con la población musulmana más grande del mundo, tiene reglas estrictas que prohíben compartir contenido considerado obsceno en línea.
El bloque de Indonesia desactivó su función de creación de imágenes para la mayoría de los usuarios el viernes después de protestas generalizadas por su uso para crear imágenes sexualmente explícitas y violentas.
Musk también ha sido amenazado con multas, acciones regulatorias e informes de una posible prohibición de X en el Reino Unido.
Esta herramienta se ha utilizado para quitar la ropa de las mujeres y posarlas en posiciones sexualizadas. La función para hacer esto está deshabilitada excepto para los clientes que pagan.
El primer ministro australiano, Anthony Albanese, también expresó su preocupación por el uso de inteligencia artificial en los chatbots de Grok para permitir contenido sexual de explotación.
El primer ministro se unió a una lista cada vez mayor de líderes internacionales, incluido su homólogo británico Keir Starmer, para criticar la plataforma de redes sociales el sábado.
“Utilizar la IA generativa para explotar o sexualizar a las personas sin su consentimiento es abominable”, dijo a los periodistas en Canberra.
“La herramienta utilizada para lograr que la gente utilice su función de creación de imágenes a través de Grok es, creo, absolutamente repugnante.
“Esto es, una vez más, un ejemplo de que las redes sociales no muestran responsabilidad social y los ciudadanos australianos y, de hecho, los ciudadanos del mundo merecen algo mejor”.
Si bien el número de informes recibidos por la Oficina Australiana de Seguridad Electrónica es bajo, dice que recientemente ha habido un aumento en el uso de Grok para crear imágenes sexuales o de explotación.
El organismo de control advirtió el viernes que utilizará sus poderes, incluidos los avisos de eliminación, cuando dicho material cumpla con los umbrales definidos en la Ley de Seguridad en Línea.
“X, Grok y una amplia gama de otros servicios están sujetos a obligaciones de seguridad sistémicas como parte de los esfuerzos líderes a nivel mundial de Australia para detectar y eliminar material de explotación sexual infantil y otro material ilegal. Códigos y estándares de la industria”, decía.
Con Reuters y AAP
