Dos países bloquearon la aplicación Grok después de que fuera ampliamente utilizada para crear deepfakes no consensuados de mujeres y niños casi desnudos. Un tercer país está investigando actualmente.
Tres senadores estadounidenses han pedido a Apple que elimine temporalmente X y Grok de la App Store de EE. UU. debido a una “creación de contenido repugnante” y todavía estamos esperando la respuesta de la compañía…
CSAM generado por IA por Grok
La herramienta Grok AI está disponible como aplicación independiente y a través de la aplicación X. También está disponible a través de la pestaña Grok en el sitio web de X.
Ha habido amplia evidencia de que Grok hizo deepfakes no consensuales y casi desnudos de personas reales, tomando una fotografía vestida y luego quitándose la ropa digitalmente para reemplazarla con un bikini u otra ropa reveladora. Lo más preocupante es que algunos de estos deepfakes eran de niños.
Aunque en teoría Grok bloquea las imágenes de desnudos, algunos usuarios utilizan indicaciones para solucionarlo.
El viernes, tres senadores estadounidenses pidieron a Apple que eliminara temporalmente dos aplicaciones de la App Store, señalando que las imágenes no consensuadas incluían materiales de abuso sexual infantil (CSAM).
Los senadores Ron Wyden, Ed Markey y Ben Ray Lujan escribieron una carta abierta a los directores ejecutivos de Apple y Google, pidiendo a ambas compañías que retiraran las aplicaciones X y Grok “en espera de una investigación completa” de “imágenes sexuales masivas no consensuadas de mujeres y niños”.
La carta señala la falta de acción del ex director ejecutivo Elon Musk y contrasta la falta de acción de Apple y Google con la rápida eliminación de la aplicación IceBlock a petición de la Casa Blanca. La única respuesta de Musk es limitar la generación de imágenes X a los clientes pagos, lo que parece la medida más cínica posible, pero cualquiera puede acceder a la misma función a través de la pestaña Grok tanto en el sitio web como en la aplicación X.
Dos países han bloqueado la aplicación Grok
Prensa asociada Malasia e Indonesia informaron haber bloqueado la aplicación dentro de sus países.
Los reguladores de los dos países del Sudeste Asiático dicen que los controles existentes no impiden la creación y difusión de contenido pornográfico falso, particularmente el que involucra a mujeres y menores. El gobierno de Indonesia bloqueó temporalmente el acceso a Gro el sábado, y Malasia hizo lo mismo el domingo.
El regulador de medios de Gran Bretaña ofcom Se ha abierto una investigación formal.
La cuenta del chatbot Grok AI en X se ha utilizado para crear y compartir imágenes de personas desnudas – lo que puede constituir abuso de imágenes íntimas o pornografía – y contenido de abuso sexual infantil – y contenido de abuso sexual infantil (…) Ofcom ha decidido abrir una investigación formal para determinar si X ha incumplido sus obligaciones legales en virtud de la Ley en Línea.
Apple y Google aún no han respondido
Al momento de escribir este artículo, no ha habido respuesta pública de Apple o Google, y las aplicaciones siguen disponibles en sus respectivas tiendas de aplicaciones de EE. UU. Nos comunicamos con Apple para hacer comentarios y lo actualizaremos con cualquier respuesta.
Imagen: melanie agua/desempaquetar
