Grok, el chatbot de inteligencia artificial de Elon Musk, está siendo investigado en Francia, California, el Reino Unido, India y Brasil por supuestamente crear imágenes íntimas no consentidas, incluidas aquellas que representan a menores. Ahora se enfrenta a otra investigación, esta vez en Irlanda.
El martes, la Comisión de Protección de Datos (DPC) de Irlanda anunció que había abierto una investigación sobre Musk’s X, alojado por Grok, en relación con “imágenes íntimas y/o sexuales potencialmente dañinas y no consensuales, que involucran o involucran de otro modo el procesamiento de datos personales de niños, incluido el uso de funciones de artículos grandes asociadas con el modelo de lenguaje Grok dentro de la plataforma X”.
X ya sujeto Una investigación de la UE por parte de las autoridades francesas sobre las operaciones de Grok durante un período de aproximadamente dos semanas que comenzó a fines del año pasado y se prolongó hasta 2026. Ofcom, el regulador de comunicaciones del Reino Unido, anunció su propia investigación sobre Grok el mes pasado, con posibles multas de hasta el 10 por ciento de los ingresos de X.
En medio de esta investigación, Grok también enfrenta posibles prohibiciones en Malasia e Indonesia.
Cuando xAI lanzó Grok Imagine, una nueva herramienta de generación de imágenes y videos de IA, en agosto pasado, los informes de Mashable revelaron que carecía de guardias de seguridad básicos para evitar falsificaciones sexuales e imágenes íntimas no consensuadas.
Velocidad de la luz triturable
A finales de diciembre, Grok se centró en gran medida cuando una masa crítica de usuarios de X notó que el chatbot Hacer imágenes sexuales Particulares a petición de otros X usuarios. Si bien estas imágenes objetables a menudo representan a celebridades o adultos privados, algunos usuarios han informado haber encontrado imágenes generadas por IA que también representan a menores.
A Estudiar El grupo de vigilancia sin fines de lucro Centro para Contrarrestar el Odio Digital (CCDH) descubrió que durante un período de 11 días, Grok generado Se estima que hay 3 millones de imágenes sexuales, incluidas 23.000 imágenes de niños.
Esencialmente almizcle proteger Groke y afirmó que gobiernos como el del Reino Unido simplemente estaban tratando de censurar la libertad de expresión. Finalmente, X ha bloqueado algunas de las capacidades de producción de imágenes de Grok detrás de su suscripción X Premium. Después de un tiempo, X cambió Sus políticas también prohíben completamente la generación de imágenes sexuales de personas de la vida real.
Si bien parece que X ya ha resuelto este problema particular que involucra a Grok, el tiempo que le tomó a la compañía de Musk tomar medidas y las imágenes que produjo el chatbot probablemente estarán al frente de la investigación en curso.
“DPC ha estado involucrado con XIUC (X Internet Unlimited Company) desde que aparecieron por primera vez informes en los medios hace unas semanas sobre la supuesta capacidad de incitar a los usuarios de X en X a crear imágenes sexuales de personas reales, incluidos niños, en la cuenta @Grok”, dijo el comisionado adjunto del DPC, Graham Doyle, en un comunicado. “Como principal autoridad supervisora de XIUC en toda la UE/EEE, la DPC ha iniciado una investigación a gran escala que examinará el cumplimiento por parte de XIUC de algunas de sus obligaciones fundamentales en virtud del RGPD.
Si se han compartido fotos íntimas sin su consentimiento, llame a la línea directa 24 horas al día, 7 días a la semana de Cyber Civil Rights Initiative al 844-878-2274 para obtener ayuda gratuita y confidencial. También se incluye el sitio web del CCRI. Información útil Así como una lista Recursos internacionales.
