La Comisión Europea ha abierto una investigación sobre X de Elon Musk por la creación de imágenes sexualmente explícitas y la difusión de contenido potencial de abuso sexual infantil por parte del chatbot de inteligencia artificial de la plataforma, Grok.
La investigación formal iniciada el lunes también amplía la investigación sobre el sistema de recomendación de X, los algoritmos que ayudan a los usuarios a descubrir contenido nuevo.
Grok provocó indignación internacional al permitir a sus usuarios secuestrar digitalmente a mujeres y niños y mantenerlos en poses provocativas. Según investigadores del Centro para Contrarrestar el Odio Digital, Grok AI generó casi 3 millones de imágenes sexualmente sugerentes en menos de dos semanas, incluidas 23.000 que representaban a niños.
La comisión dijo que su investigación “evaluará si la empresa evaluó y mitigó adecuadamente los riesgos” que surgen de las operaciones de Grok en la UE, incluido el riesgo de compartir contenido ilegal como imágenes manipuladas sexualmente explícitas y “contenido que puede constituir” abuso sexual infantil.
La investigación se inició en virtud de la Ley de Servicios Digitales (DSA) de la Unión Europea, una ley relativamente nueva destinada a proteger a los usuarios de Internet de daños generalizados.
En declaraciones a los periodistas, un funcionario dijo que la comisión no estaba convencida de las medidas mitigantes adoptadas por X para remediar el problema.
Después de la protesta inicial por las imágenes manipuladas, la empresa restringió el acceso a la herramienta a los clientes que pagaban, pero cambió de táctica bajo la presión de los reguladores europeos. A principios de este mes anunció que había introducido medidas para impedir que Grok permitiera editar fotografías de personas reales en publicaciones de ropa.
Un funcionario de la comisión dijo que las medidas no abordaban las preocupaciones generalizadas sobre Groke. La investigación analiza el riesgo sistémico de crear contenido ilegal, incluido contenido que representa violencia contra las mujeres y abuso sexual infantil. X “no cuenta con medidas de mitigación efectivas” para reducir el riesgo en su plataforma, dijeron.
Al anunciar la investigación, Hena Virkkunen, máxima responsable de la Comisión para la soberanía tecnológica, la seguridad y la democracia, dijo: “Los deepfakes sexuales no consensuados de mujeres y niños son una forma violenta e inaceptable de degradación. A través de esta investigación, determinaremos si X ha cumplido con sus obligaciones legales en virtud de la DSA, o si lo considera un detrimento de los derechos de los ciudadanos europeos y de los niños. Su servicio”.
Además de investigar imágenes claras, la comisión está ampliando su investigación de diciembre de 2023 sobre los llamados sistemas de recomendación de X a raíz del anuncio de la compañía de pasar a un modelo basado en Grok para filtrar información y contenido para los usuarios.
La medida se produce después de que el organismo de control de medios del Reino Unido, Ofcom, anunciara su propia investigación sobre “crimen” y contenido ilegal en X a principios de este mes.
La Comisión ha sido ampliamente criticada por ser demasiado lenta en implementar la DSA, particularmente en el caso de X.
“La investigación llega demasiado tarde, pero aún puede enviar una señal clara de que las plataformas deben cumplir con la legislación europea”, afirmó la eurodiputada alemana de los Verdes Alexandra Gies. “Este caso es claro. El daño a millones de mujeres y muchos niños es irreparable. Esperamos que la comisión utilice este aprendizaje para actuar más rápido en el futuro”.
Los funcionarios de la UE rechazaron tales críticas y señalaron 15 investigaciones en curso en el marco de la DSA, que se han aplicado a empresas desde febrero de 2024.
Regina Doherty, la vicepresidenta irlandesa de centroderecha del Parlamento Europeo, dijo que acogía con agrado la investigación formal. “Cuando hay informes creíbles de que se están utilizando sistemas de inteligencia artificial para dañar a mujeres y niños, es imperativo que la legislación de la UE sea examinada y aplicada sin demora”, dijo Doherty.
En respuesta a la consulta, X proporcionó un enlace a una declaración publicada el 14 de enero: “Estamos comprometidos a hacer de X una plataforma segura para todos y seguimos teniendo tolerancia cero con cualquier forma de explotación sexual infantil, desnudez no consensuada y contenido sexual no deseado”.
El mes pasado, la Comisión multó a X con 120 millones de euros por violar la legislación de la UE. La plataforma engañó a los usuarios, obstruyó a los investigadores independientes y eludió la responsabilidad”, afirmó.
El regulador de la UE dijo que X otorgó insignias azules “fraudulentas” a cuentas sin verificación, exponiendo potencialmente a los usuarios a estafas y fraudes por parte de actores maliciosos. X infringe los requisitos legales de la UE sobre transparencia en la publicidad al impedir que los investigadores investiguen anuncios falsos y campañas de amenazas híbridas.
Musk respondió a una publicación de la Comisión que anunciaba que las multas eran “incorrectas” y luego pidió la abolición de la UE.
A la empresa se le han dado tres meses para pagar la multa. Un funcionario de la UE dijo que confiaban en que se pagaría la multa.
