La UE ha iniciado su propia investigación sobre los chatbots de Grok que crean material de abuso sexual infantil. Se estima que Grok creó 23.000 imágenes CSAM en sólo 11 días. Actualizar: Segunda investigación Inaugurado en Irlanda centrándose en posibles violaciones de la privacidad.
A pesar de los múltiples llamados de Apple y Google para eliminar temporalmente tanto X como Grok de la App Store, ninguna de las compañías lo ha hecho todavía…
Grok produjo 23.000 imágenes CSAM
Al igual que otros chatbots de IA, Grok de xAI es capaz de generar imágenes a partir de mensajes de texto. Puede hacerlo directamente en la aplicación, en la web o a través de X. Sin embargo, a diferencia de otros servicios, Grok tiene pautas muy flexibles que lo han visto producir imágenes semidesnudas no consensuadas de personas reales, incluidos niños.
Engadget informa que, según una estimación, Grok generó alrededor de 23.000 imágenes CSAM en solo 11 días.
El Centro para Contrarrestar el Odio Digital (CCDH) publicó sus resultados. La organización británica sin fines de lucro basó sus hallazgos en una muestra aleatoria de 20.000 fotografías de Grok del 29 de diciembre al 9 de enero. Luego, el CCDH publicó una estimación más amplia basada en los 4,6 millones de imágenes producidas por Grok durante ese período (…)
Durante un período de 11 días, Grok creó aproximadamente 3 millones de imágenes sexualmente explícitas, incluidas aproximadamente 23.000 de niños.
Dicho de otra manera, Grok generó aproximadamente 190 imágenes sexualmente explícitas por minuto durante ese período de 11 días. De esto, produjo imágenes sexuales de niños una vez cada 41 segundos.
Se ha iniciado una investigación de la Unión Europea
A principios de este mes, tres senadores estadounidenses pidieron al CEO de Apple, Tim Cook, que eliminara temporalmente X y Grok de la App Store debido a una “creación de contenido repugnante”. La empresa aún no lo ha hecho.
Dos países han bloqueado la aplicación y ya se han abierto investigaciones tanto en California como en el Reino Unido. D Tiempos financieros Informa que la UE ha abierto una investigación.
La investigación, anunciada el lunes bajo la ley de servicios digitales de la Unión Europea, evaluará si xAI intentó minimizar el riesgo de colocar las herramientas de Grok en X y la difusión de contenido que “podría constituir material de abuso sexual infantil”.
“Los deepfakes sexuales no consensuados de mujeres y niños son una forma violenta e inaceptable de degradación”, afirmó la jefa de tecnología de la UE, Hena Virkkunen.
Si se determina que la empresa infringe la DSA, se le puede imponer una multa de hasta el 6% de sus ingresos globales anuales.
Foto por Logan Voss en desempaquetar
