La tecnología de inteligencia artificial de vanguardia permite a niños y hombres desnudar digitalmente a niñas y mujeres sin consentimiento ha puesto a Silicon Valley, dominado por hombres y criticado durante mucho tiempo como inhóspito para las mujeres, en un nuevo y duro foco de atención, después de que el chatbot Grok de xAI provocara indignación global, y Google y Apple permitieran docenas de tiendas de aplicaciones de “nudificación”.
Grok, una aplicación independiente y una función de la plataforma de redes sociales X de Elon Musk, generó 3 millones de imágenes sexuales en los 11 días posteriores al lanzamiento de su función de edición de imágenes en diciembre, informó la empresa con sede en el Reino Unido. Informes del Centro para la lucha contra el odio digital. Los usuarios tomaron fotografías digitales de mujeres reales (y más de 20.000 niños aparentes) manipulando a muchas de ellas en poses sexuales. Musk respondió con desdén volviendo a publicar una imagen generada por IA de una tostadora en bikini, diciendo que “no podía dejar de reír” al respecto.
Las autoridades de California no se reían.
La oficina del fiscal general Rob Bonta dijo que “este material, que muestra a mujeres y niños desnudos y en situaciones sexualmente explícitas, ha sido utilizado para acosar a personas en Internet”. Un comunicado de prensa decía El mes pasado, el cuadro Generación de Grok anunció una investigación para determinar si violó alguna ley. La investigación aún está en curso y Bonta está “comprometido a avanzar rápidamente en este asunto”, dijo su oficina el miércoles.
A finales del mes pasado, el Proyecto de Transparencia Tecnológica, dedicado a la rendición de cuentas de las principales empresas de tecnología, publicó un informeDice que encontró 55 aplicaciones en la tienda de aplicaciones Google Play y 47 aplicaciones en la tienda de aplicaciones de Apple que podrían alterar imágenes de mujeres reales sin su consentimiento para desnudarlas total o parcialmente, o usar bikinis y otras prendas diminutas.
Las empresas destacadas por el Tech Transparency Project como operadores de aplicaciones de nudificación no son tan conocidas como xAI de Musk, Google o Apple, y van desde Dreamface de Redwood City hasta Bodiva de China. Bodiva ofrece una función de “muestra del cuerpo” que desnuda a las mujeres en fotografías y también ofrece la opción de convertir fotografías en videos pornográficos, informó Tech Transparency Project.
La controversia sobre las aplicaciones es la última que ha surgido desde que OpenAI de San Francisco lanzó su pionero ChatGPT a finales de 2022, que permite a los usuarios generar palabras, sonidos e imágenes en respuesta a solicitudes. Las demandas que alegan errores generados por la IA en presentaciones legales, el uso generalizado de la IA por parte de los estudiantes para las tareas y los chatbots que alientan el suicidio han generado alarma.
Se aplican varias leyes estatales y locales a las imágenes generadas por IA. Ley federal para eliminarlo 2025, presentado por el senador estadounidense Ted Cruz, republicano por Texas, que prohíbe a los usuarios de Internet publicar fotografías íntimas no consensuadas, incluidas imágenes “deepfake” generadas por IA de personas a las que se les ha quitado la ropa. Una disposición de la ley exige que los sitios web y las aplicaciones eliminen dichas imágenes dentro de las 48 horas posteriores a una solicitud de eliminación válida.
El proyecto de ley 621 de la Asamblea de California, aprobado el año pasado, prohíbe la pornografía deepfake no consensuada. Su autora, la asambleísta demócrata de East Bay Rebecca Bauer-Kahn, dijo al medio de comunicación que la ley fue creada para prevenir exactamente lo que Groke estaba creando.
“Estas son herramientas que empoderan a las personas para dañar a las mujeres”, dijo esta semana Camerina Davidson, presidenta del capítulo de California de la Organización Nacional de Mujeres. “La IA reinventa la misoginia”.
Las empresas de tecnología, dijo Davidson, han brindado a los hombres “formas más poderosas de acosar a las mujeres y tratar de afirmar su poder sobre las mujeres utilizando estas plataformas impulsadas por inteligencia artificial a las que es muy fácil acceder”.
Apple dijo que sus directrices prohíben claramente el contenido sexual o pornográfico y eliminó 28 aplicaciones identificadas por el Tech Transparency Project. En cuanto al resto, Apple dijo que alertó a los desarrolladores de aplicaciones sobre infracciones que debían remediarse de manera oportuna. Apple no describió cómo debería realizarse la remediación inmediata.
Google dijo que había suspendido “la mayoría de las aplicaciones” identificadas por el Proyecto de Transparencia Tecnológica y que su investigación sobre el asunto estaba en curso.
A pesar de las medidas enérgicas contra estas aplicaciones, Google y Apple continúan ofreciendo Grok en sus tiendas de aplicaciones.
Grok, operado por xAI de Musk, una compañía de inteligencia artificial de Palo Alto que recientemente se fusionó con la compañía de cohetes SpaceX de Musk, no respondió a las preguntas.
La empresa publicó en X a principios de enero. Citado “Defectos en los mecanismos defensivos” Que está “solucionado urgentemente”. Pero a pesar de esa supuesta urgencia, Reuters informó este mes que entre el 14 y 16 de enero y el 27 y 28 de enero, un grupo de sus reporteros subió fotos de ellos mismos completamente vestidos a Grow y le pidieron al chatbot que los retratara en poses ofensivas o sexualmente sugerentes.
“En la mayoría de los casos, Grok devolvió las imágenes sexuales, incluso cuando dichos sujetos no fueron consensuales”. Reuters informó.
En enero, Ashley St. Clair, la madre de uno de los hijos de Musk, xAI demandada en la Corte Suprema de Nueva Yorkalega que Grok, en respuesta a las solicitudes de los usuarios, creó “innumerables imágenes sexualmente ofensivas, íntimas y degradantes” de ella. “Entre otras cosas, los usuarios de X desenterraron fotos de St. Clair completamente vestida a los 14 años y solicitaron que Groke la desnudara y la pusiera en bikini”, afirma la demanda. “Grok está obligado.” El caso fue trasladado a un tribunal federal de Nueva York y los abogados de xAI ahora están luchando para que se transfiera al tribunal federal de Texas.
Sin embargo, no son sólo las mujeres y las niñas las que se ven perjudicadas por las aplicaciones, afirmó Davidson.
“Ver lo que les hacen a otras mujeres les afecta emocional y psicológicamente y hace que no quieran centrarse en sí mismas”, dijo Davidson. “Conozco a muchas mujeres que están en línea y no usan sus nombres reales. No quieren ser atacadas”.
Al permitir a los usuarios convertir a mujeres y niñas reales en objetos sexuales, las aplicaciones envían el mensaje a niños y hombres de que las niñas y las mujeres existen “para servir a los propósitos de los hombres”, dijo la directora ejecutiva de la organización sin fines de lucro WomenSV de Los Altos, que lucha contra el abuso de mujeres y niños.
“Puedes hacer lo que quieras con ellos”.
El uso de imágenes sexuales por parte de Grok ha causado un revuelo mundial. Miembros del Parlamento británico a mediados de enero emitió una declaración Condenado: “Grok utilizó IA para crear y promover imágenes sexualmente explícitas y objetables de mujeres y niños en X, incluidas imágenes de menores vestidas digitalmente y sexualmente explícitas”. Tanto la Comisión Europea como el organismo de control de la privacidad del Reino Unido han iniciado investigaciones formales sobre Grok sobre el asunto.
El 3 de febrero, fiscales en Francia allanaron las oficinas de X, la plataforma de redes sociales de Elon Musk, en una investigación sobre lo que las autoridades francesas describieron como la supuesta posesión y difusión de imágenes de pornografía infantil, imágenes “deepfake” sexualmente explícitas generadas por IA y otro material. Kasturi, que había sido citado por las autoridades francesas, fue trasladado al X2 Llame a esta medida un “ataque político”.“
Tanto Malasia como Indonesia han bloqueado a Grok por la edición de imágenes.
La indignación estalló desde California hasta Kuala Lumpur por años de controversias relacionadas con el género en la industria tecnológica de Silicon Valley. La demanda por discriminación de género de la empresaria Ellen Power en 2012 contra la firma de capital de riesgo de Menlo Park, Kleiner Perkins, fracasó, pero llamó la atención sobre el trato a las mujeres en la tecnología. En 2017, el director ejecutivo de Uber, Travis Kalanick, fue despedido. Un escándalo de acoso sexualY al año siguiente, la empresa acordó pagar 10 millones de dólares para resolver una demanda que alegaba discriminación contra mujeres y minorías. También en 2018, miles de empleados de Google abandonaron sus puestos de trabajo debido al manejo por parte de la empresa del acoso sexual en el lugar de trabajo. Cuatro años más tarde, Google acordó pagar 118 millones de dólares para resolver una demanda colectiva de un año de duración presentada por hasta 15.500 mujeres que alegaban que les pagaba menos que a los hombres y las promocionaba más lentamente y con menos frecuencia.
Para empresas como xAI, Google y Apple, la disponibilidad de aplicaciones para vestirse representa una falla de liderazgo, dice Ann Skeet, directora senior de ética de liderazgo en el Centro Markkula de Ética Aplicada de la Universidad de Santa Clara.
“El tipo de golpes que están recibiendo están destruyendo el valor de la empresa en este momento”, dijo Skeet. “En realidad, están dañando a la misma entidad que son responsables de dirigir”.
