La madre de Elon Musk está demandando a su empresa, alegando que imágenes explícitas de ella cuando era menor fueron creadas por su herramienta Grok AI.
Ahí está Ashley St. Clair Presentó un caso xAI demandó a xAI en la Corte Suprema del estado de Nueva York alegando que Grok, que se utiliza en la plataforma de redes sociales X, prometió dejar de crear imágenes explícitas pero continuó haciéndolo.
Ella busca daños punitivos y compensatorios, alegando que Grok creó docenas de imágenes ultrafalsas sexualmente explícitas y ofensivas.
Después de dos semanas de protesta pública por la herramienta utilizada para crear imágenes sexualizadas de mujeres y niños, la compañía dijo el miércoles que “bloquearía geográficamente” la capacidad de los usuarios de “crear imágenes de personas reales en bikini, ropa interior y ropa similar” a través de cuentas de Grok y Grok en X en países donde era ilegal.
St. Clair, de 27 años, que está distanciado de Musk, es un influyente, autor y comentarista político de derecha. Ella y Musk son padres de un hijo nacido en 2024.
Está representada por Carrie Goldberg, una abogada de derechos de las víctimas que se especializa en responsabilizar a las empresas de tecnología y que anteriormente ha representado a mujeres que han sido acosadas y agredidas sexualmente.
Goldberg le dijo a The Guardian: “xAI no es un producto razonablemente seguro y es una molestia pública. Nadie ha causado más daño que Ashley St. Clair. Ashley demandó porque Grok la estaba acosando al crear y distribuir imágenes objetables, ofensivas y despectivas de ella y publicarlas en X.
“Este daño surgió directamente de elecciones deliberadas de diseño que permitieron que Grok fuera utilizado como una herramienta para el acoso y la humillación. Las empresas no pueden evitar la responsabilidad cuando los productos que crean causan este tipo de daño. Queremos responsabilizar a Grok y ayudar a establecer límites legales claros para el beneficio de todo el público para que podamos abstenernos de usar IA”.
La presentación alega que la empresa de redes sociales “tomó represalias contra él, desmonetizando su cuenta X y creando más imágenes de él, incluidas imágenes ilegales de él en posiciones sexuales, cubierto de semen, prácticamente desnudo y cuando era niño”.
Según la presentación, las imágenes generadas por Grok incluían contenido sexualizado de St. Clair como un adulto usando un bikini de hilo de una niña de 14 años, junto con una solicitud de “poner a la niña en un bikini hecho de hilo dental”.
La presentación establece que no sólo las imágenes eran objetivamente objetables, sino que “Groc y xAI también tenían conocimiento claro de que St. Clair no dio su consentimiento para la creación o difusión de estas imágenes debido a la solicitud de eliminación”.
Grok también respondió a las solicitudes de los usuarios para agregar tatuajes al cuerpo de St. Clair, incluidas las palabras “la puta de Elon”, según el documento.
St. Clair, que es judía, alegó que Groke la hizo usar digitalmente un bikini adornado con la esvástica.
La demanda afirma que X “se benefició económicamente de la creación y difusión de contenido deepfake objetable, realista y sexualmente explícito que mostraba al demandante como un menor y un adulto”.
La presentación afirma que “xAI es directamente responsable del acoso y las imágenes explícitas creadas por su propio chatbot, Grok”.
Musk publicó en X que los usuarios de su aplicación son responsables de las imágenes que crean. Recientemente dijo: “Cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que subir contenido ilegal”.
Y añadió: “Obviamente, Grok no genera imágenes automáticamente, sólo lo hace a petición del usuario”.
X dijo el jueves que tiene “tolerancia cero con la explotación sexual infantil, la desnudez no consentida y el contenido sexual no deseado”.
La empresa presentó una contrademanda alegando que, según los términos de servicio de X, St. Clair no podía demandar a la empresa en Nueva York, pero debía hacerlo en Texas.
St Clair le dijo anteriormente a The Guardian que se sentía “horrorizada y violada”, y agregó: “Ésta es otra herramienta de acoso. El consentimiento es el problema”.
A los acólitos de Musk no les agradó después de que hizo público su deseo de crear un “ejército” de niños, dijo. Kasturi tuvo 13 hijos con otras tres mujeres.
Se ha contactado a X para hacer comentarios.
