Instagram se enfrenta a un desafío legal por las afirmaciones de que se beneficia al permitir a los usuarios publicitar imágenes de abuso sexual infantil generadas por IA.
Esto sigue a una investigación policial que encontró que los depredadores estaban usando Instagram para promocionar sitios web que vendían material de abuso, que está disponible con solo dos clics.
En lo que los activistas llaman la “nueva frontera del horror”, los pedófilos están utilizando software de inteligencia artificial para crear miles de imágenes sexualmente explícitas de niños, que comercializan descaradamente en Instagram, pidiendo a los usuarios que hagan clic en sus sitios para comprar material más explícito.
El bufete de abogados Shillings 5 Rights Foundation ha lanzado un “desafío legal innovador” contra el gigante de las redes sociales Meta, propietario de Instagram, Facebook y WhatsApp, en nombre de la organización benéfica para niños.
Alegó que Instagram aloja contenido que “participa en la explotación de niños en línea” y que pone en riesgo tanto a los usuarios adultos como a los niños.
Instagram enfrenta un desafío legal por afirmar que se beneficia al permitir a los usuarios publicitar imágenes de abuso sexual infantil generadas por IA
Los pedófilos están utilizando software de inteligencia artificial para crear miles de imágenes sexualmente explícitas de niños, que comercializan descaradamente en Instagram, pidiendo a los usuarios que hagan clic en sus sitios para comprar material más explícito.
Cita un expediente policial de pruebas que “muestra claramente que las imágenes sexuales infantiles generadas por IA han circulado ampliamente en Instagram y están vinculando a los usuarios de Instagram con contenido ilegal”.
La baronesa Biban Kidron, fundadora de la Fundación 5 Derechos, que lucha por un entorno digital más seguro para los niños, prometió llevar a Meta a los tribunales si no funciona, advirtiendo: “Es realmente fácil empezar en la plataforma Meta y terminar en el infierno en dos clics. más tarde.’
Se produce mientras un informe separado revela hoy que los informes públicos sobre imágenes de abuso generadas por IA en la web abierta se han cuadruplicado en sólo seis meses, tras una nueva y aterradora tendencia en la que los delincuentes roban imágenes de niños inocentes de las redes sociales y utilizan software para ‘desnudarlos’. ‘ellos’. Víctimas, manipulando imágenes para cumplir su retorcida fantasía.
El informe de la Internet Watch Foundation advierte que Gran Bretaña se encuentra en un “punto de inflexión aterrador”, ya que las herramientas de inteligencia artificial ahora son capaces de producir imágenes y videos tan realistas que es imposible distinguir lo real de lo falso, lo que dificulta que los oficiales rescaten a las víctimas.
La baronesa Kidron dijo: ‘Estas imágenes sexuales me dan ganas de llorar. Son chicas muy jóvenes vestidas muy escasamente.
‘El material de abuso sexual infantil de IA está creando una nueva frontera de horror e Instagram está atrayendo a la gente allí y permitiendo a los usuarios acceder a contenido de abuso sexual infantil.
‘Los niños están siendo explotados y el meta está ayudando a alimentar el apetito por este material.
“Si tu negocio es mantener a la gente haciendo clic y no le das un carajo en qué hacen clic, eso es ceguera deliberada porque el objetivo final es ganar dinero”.
Cuando agentes de policía encubiertos iniciaron una investigación en diciembre, encontraron docenas de cuentas llamadas ‘Pervy Kinks’ que presentaban imágenes sexuales de niños pequeños generadas por IA.
Junto a las fotos parcialmente desnudas había enlaces a sitios web de pago por evento y canales de Telegram de mensajería instantánea cifrada que mostraban imágenes reales de violaciones infantiles.
Durante una investigación de seis meses, los algoritmos de Instagram recomendaron varias cuentas similares a las autoridades, lo que generó temores de que los niños que tropiezan con los sitios puedan caer en las garras de redes de abuso infantil.
Schillings dijo que la apertura del material “legitima” el abuso infantil porque los pedófilos pueden establecer contactos a plena vista sin esconderse en la web oscura.
Para entender cómo funciona, la baronesa Kidron permitió a la policía acceder a sus propias fotografías y pudieron mostrar cómo la IA produjo imágenes de ella siendo abusada cuando tenía ocho años. ‘
Era horrible mirar estas fotografías, ya no puedo mirar fotografías mías cuando era niño y verlas”, dijo.
En enero, los agentes detectaron cuatro perfiles delictivos a través de la función de informes dentro de la aplicación de Instagram, pero no pasó nada.
Luego, la policía solicitó información oficial sobre las cuentas, pero no recibió respuesta del Meta.
Schillings presentó un expediente de pruebas el mes pasado exigiendo una investigación independiente.
En un comunicado, Meta dijo que “todas las cuentas infractoras” fueron eliminadas a principios de este año.
Meta no respondió hasta que Mail lo contactó, aunque afirmó que nunca recibió el correo electrónico. Desde entonces ha eliminado todas las cuentas.
Meta dijo: ‘Eliminamos todas las cuentas infractoras a principios de este año. Ya sea IA o una persona real, la explotación infantil de cualquier tipo es atroz y tenemos reglas claras contra ella.
‘Reportamos periódicamente casos aparentes de este contenido al Centro Nacional para Niños Desaparecidos y Explotados.
“Compartimos el liderazgo con otras empresas para combatir el abuso multiplataforma y apoyar a las autoridades en sus esfuerzos por arrestar y procesar a los delincuentes detrás de esto”.
‘Las herramientas de inteligencia artificial proporcionan igualdad de condiciones para los depredadores en línea’
Cuando Olivia fue rescatada por la policía a la edad de ocho años, pensó que su terrible experiencia de violación de cinco años había terminado.
Pero gracias a los avances en inteligencia artificial, es posible que su dolor no termine.
Los pedófilos están utilizando software de inteligencia artificial para crear contenido nuevo y crear “escenarios personalizados” utilizando imágenes de su abuso de la vida real, que circulan en línea.
Olivia fue rescatada por la policía en 2013 después de haber sido violada y abusada sexualmente repetidamente desde que tenía tres años.
Su abusador ha publicado tantas imágenes que los analistas de la Internet Watch Foundation (IWF) las ven todos los días a través de su trabajo.
Olivia, que ahora tiene 20 años, continúa siendo victimizada mientras se siguen compartiendo y vendiendo en línea imágenes de su abuso.
Los delincuentes han creado modelos de inteligencia artificial para crear imágenes sofisticadas que están disponibles para descarga gratuita, lo que permite a la víctima crear imágenes de ellas en cualquier entorno o actividad sexual que pueda imaginar.
La IWF también encontró a niños famosos como modelos para crear material de IA, advirtiendo sobre “una nueva industria artesanal de delincuentes en línea que están creando abuso sexual infantil por encargo”.
Victoria Green, directora ejecutiva de la Fundación Mary Collins, dijo: “Saber que los delincuentes ahora pueden utilizar la tecnología de inteligencia artificial disponible para crear y distribuir más contenido explotador no sólo es repugnante para las víctimas y los sobrevivientes, sino que también es motivo de gran preocupación”.
“Las víctimas y los supervivientes tienen derecho a no vivir con miedo a la reanimación.”
Susie Hargreaves, directora ejecutiva de la IWF, dijo: “Los supervivientes de algunos de los peores tipos de trauma no tienen respiro, sabiendo que los perpetradores pueden utilizar imágenes de su sufrimiento para crear escenas de abuso a voluntad”.
“Sin controles adecuados, las herramientas de IA generativa proporcionan un terreno de juego para los depredadores en línea”.
La IWF añadió que las herramientas de IA utilizadas para crear las imágenes son legales en el Reino Unido, aunque las imágenes de abuso sexual infantil con IA son ilegales.
La IWF dijo que la foto de una niña siendo violada y torturada fue subida por su agresor cuando tenía entre tres y ocho años.
La organización sin fines de lucro dijo que Olivia, nombre ficticio, fue rescatada por la policía en 2013, pero unos años más tarde, los usuarios de la web oscura estaban usando herramientas de inteligencia artificial para crear imágenes en su computadora en nuevas situaciones de abuso.
Los delincuentes están recopilando colecciones de imágenes de víctimas con nombres como Olivia y utilizando modelos de inteligencia artificial para ajustarlas y crear nuevo material, dijo la IWF.
La compañía dice que ha descubierto un modelo para crear nuevas imágenes de Olivia, ahora de unos 20 años, que están disponibles para descargar de forma gratuita.
Un usuario de un foro de la web oscura compartió una página web anónima con enlaces a modelos de inteligencia artificial para 128 nombres diferentes de víctimas de abuso sexual infantil.
Otros modelos perfeccionados pueden generar contenido sexual infantil mediante IA de niños famosos.
Un portavoz del grupo dijo: “Aunque ahora está libre de su abusador, Olivia, como muchos otros sobrevivientes, ha sido victimizada repetidamente cada vez que se comparten, venden y ven en línea imágenes de su abuso”.
«Este dolor ha alcanzado ahora un nuevo nivel debido a la llegada de la IA generativa de texto a imagen, que está siendo explotada por los delincuentes.
‘Modelos bonitos como Olivia fueron entrenados en las imágenes que los analistas de la IWF veían todos los días, pero no pudieron eliminarlas a pesar de los mejores esfuerzos.
‘Esto significa que el sufrimiento de los supervivientes es potencialmente interminable, ya que los perpetradores pueden crear imágenes de los niños como quieran.
‘La IWF sabe, al hablar con adultos que han sido víctimas repetidamente, que es una tortura psicológica saber que sus imágenes circulan en línea.
“Para muchos supervivientes, saber que pueden ser identificados, incluso a partir de las imágenes de los abusos, es aterrador”.
Los analistas de la IWF descubrieron que el 90% de las imágenes de IA eran lo suficientemente realistas como para ser evaluadas bajo la misma ley que el material real de abuso sexual infantil (CSAM), y que se estaban volviendo cada vez más extremas.
Advirtió que “el clic de un botón puede generar cientos de imágenes” y algunas son “perfectas, cercanas a la calidad fotorrealista”.
La directora ejecutiva de la IWF, Susie Hargreaves, dijo: “Seguiremos de cerca cómo la industria, los reguladores y los gobiernos responden a la amenaza, para que el sufrimiento de Olivia y de niños como ella no se exacerbe ni se reinvente utilizando herramientas de inteligencia artificial”. ‘
Richard Collard, del NSPCC, afirmó: “La velocidad a la que la IA está permitiendo el abuso infantil es increíblemente preocupante, pero también se puede prevenir”. Se están desarrollando y lanzando demasiados productos de IA sin la más básica consideración por la seguridad infantil, lo que rehabilita a los niños víctimas de abuso.
‘Es vital que la protección infantil sea un pilar clave de cualquier legislación gubernamental relacionada con la protección de la IA. Necesitamos exigir ahora medidas más duras por parte de las empresas de tecnología para dejar de presumir el abuso de la IA y garantizar que los niños que sufren abusos sean identificados y apoyados.’
Un portavoz del gobierno dijo: ‘Damos la bienvenida al informe de la Internet Watch Foundation y consideraremos sus recomendaciones cuidadosamente.
“Estamos comprometidos a tomar más medidas para mantener a los niños seguros en línea y pueden causar daños, incluso cuando se utiliza IA”.
