Three Jane Does, todas menores de 18 años, presentaron ayer una demanda contra xAI por la creación de material de abuso sexual infantil (CSAM) en la herramienta de inteligencia artificial Grow de Elon Musk.
“Como un muñeco de trapo al que las artes oscuras dan vida, este niño puede ser manipulado de cualquier forma, por morbosa, fetiche o ilegal que sea”. queja Los estados alegan que, si bien otras empresas de IA han reconocido los peligros de la IA y han establecido barreras para evitar que los depredadores sexuales infantiles la utilicen, “xAI no lo ha hecho”.
La actriz adulta Siri Dahl engañada por Grok: “Tú mismo te vuelves nazi”
“En cambio, xAI (y su fundador, Elon Musk) vieron una oportunidad de negocio: una oportunidad de sacar provecho de la orientación sexual de personas reales, incluidos niños”, dice la demanda, que es una demanda colectiva.
En enero, Mashable informó que xAI admitió que Grok produce imágenes de “menores con ropa mínima”. Un informe del Centro para Contrarrestar el Odio Digital unas semanas después decía que Groke pudo crear casi 3 millones de imágenes sexualmente explícitas entre el 29 de diciembre y el 8 de enero, incluidas 23.000 aparentemente de niños.
Varios países, incluidos Francia, el Reino Unido, Irlanda, India y Brasil, han anunciado que ahora están investigando a Groke. En los Estados Unidos, California también está investigando Los chatbots ahora están en litigio.
Velocidad de la luz triturable
La demanda, presentada el 16 de marzo, fue presentada ante un tribunal federal de California. Afirma que Jane Duce, que vive en Tennessee, sufrió graves daños por la producción de CSAM por parte de xAI.
Alrededor del 6 de diciembre de 2025, Jane Doe 1 descubrió a través de un mensaje anónimo de Instagram que sus fotos habían sido creadas por alguien que conocía y circulaban en Discord. El perpetrador presentó fotografías de al menos otras 18 niñas, muchas de las cuales Jane Doe 1 reconoció. Según la demanda, Jane Doe 1 es ahora una adulta, pero la fotografía utilizada era de menor de edad.
Luego, alrededor del 12 de febrero de este año, las autoridades locales notificaron a Jane Doze 2 y 3 que el mismo delincuente estaba utilizando sus imágenes para crear CSAM. Todavía son menores de edad.
Otro Caso contra xAI fue presentada en el mismo tribunal el 23 de enero. Otra Jane Doe, una adulta, está demandando porque Groke “desnudó” una foto de ella y la puso en bikini.
Mashable se ha puesto en contacto con xAI para hacer comentarios.
