Un parlamentario laborista ha emprendido acciones legales contra la empresa de inteligencia artificial de Elon Musk después de que su herramienta Grok ayudara a un usuario a crear imágenes sexuales falsas de él, parte de una ola de imágenes de este tipo que inundó X a principios de este año.
Jess Assato, diputado por Lowestoft, dicho En enero, fue una “violación” que la herramienta de inteligencia artificial se representara en bikini sin su consentimiento.
En una demanda presentada ante el Tribunal Superior de Londres, Assato dijo que xAI, el brazo de inteligencia artificial del sitio de redes sociales que desarrolla Grok, violó las leyes relacionadas con la protección de datos y hizo un mal uso de datos personales al pedir a los usuarios del sitio que crearan tales imágenes para Grok. Tiempos financieros.
Assato dijo al diario que además de tomarle fotos en bikini, Grok también hizo un video “mostrandola cloroformada y lista para ser agredida sexualmente”.
Su demanda sigue a una demanda similar presentada en el estado de Nueva York por Ashley St. Clair, la madre de uno de los hijos de Musk. Alegó que Groke también tomó fotografías explícitas de ella, incluida una en la que era menor de edad.
El intento de Assato de demandar a XAI podría convertirse en un caso de prueba de cuán responsables pueden ser tales herramientas y sus fabricantes por lo que los usuarios producen con ellas. Assato dijo al Financial Times que sus imágenes fueron tomadas después de que él denunciara la creación de tales imágenes sexuales no consensuadas.
Dijo: “Mi esperanza es que esto reequilibre los derechos de los individuos frente a las grandes empresas tecnológicas que deberían haber establecido salvaguardias antes de que dañen a mujeres y niños”.
Ravi Naik, un abogado que representa a Assato, dijo al periódico: “En esencia, este caso trata sobre un principio único: que los desarrolladores deben ser responsables de la forma en que diseñan e implementan sus herramientas.
“Nuestro caso es que… una imagen tuya que está diseñada para parecerse a ti y (que) tiene como objetivo degradarte o presentarte en diferentes situaciones, debe ser una imagen tuya. xAI digo lo contrario”.
El gobierno del Reino Unido amenazó con tomar medidas contra X en enero después de que Grok fuera utilizado para crear una gran cantidad de imágenes sexuales basadas en mujeres reales y, en algunos casos, niños. El regulador de medios, Ofcom, ha iniciado una investigación.
La compañía de Musk inicialmente dijo que cambiaría el sistema para permitir sólo a los clientes que pagan crear este tipo de imágenes en X, lo que Keir Sturmer calificó de “horrible”. Días después, X dijo que había impedido por completo que Grok editara fotos de personas reales para mostrarlas en lanzamientos de ropa.
Downing Street, los departamentos gubernamentales y muchos parlamentarios permanecen en X debido a las imágenes que produjo Groke y debido a la aceptación de Musk de la extrema derecha en el Reino Unido y las predicciones de violencia política, a pesar de los llamados para que abandonen la aplicación.
Grok fue una de las plataformas de inteligencia artificial que acusó falsamente a dos agentes de policía de Hampshire de estar involucrados en el arresto de Henry Novak. Christy Hill, quien sirvió como agente de policía durante 12 años, dijo que se vio obligado a huir a un lugar seguro.
Las numerosas publicaciones de X pedían que Hill y un oficial masculino, mal identificado, fueran localizados y arrestados o, en algunos casos, enfrentados a la violencia.
