“Lo que necesitamos es una forma humana para cazar”. Esta declaración del abogado Cary Goldberg, que se especializa en abusos en línea y delitos sexuales, captura los mayores riesgos que plantea la pornografía deepfake en la era de la inteligencia artificial.
El alarmante aumento de la pornografía deepfake generada por IA representa una gran amenaza para cualquiera que comparta imágenes explícitas en línea o no. Desde personas de alto perfil hasta personas comunes y corrientes, incluidos menores, el costo emocional para las víctimas es enorme.
La tecnología detrás de los deepfakes
A diferencia del porno de venganza, que implica compartir imágenes reales sin consentimiento, la tecnología deepfake permite a los delincuentes crear contenido completamente falso superponiendo el rostro de alguien en fotos explícitas o manipulando imágenes existentes para que parezcan comprometedoras. Incluso las personas que nunca han tomado fotografías personales pueden ser víctimas de esta tecnología.
De acuerdo a cnnLos casos de alto perfil en el pasado han incluido celebridades como Taylor Swift y la republicana Alexandria Ocasio-Cortez. Pero los jóvenes también están encontrando sus objetivos.
Protégete: preserva la evidencia
Para aquellos que descubren que su imagen ha sido utilizada como arma de esta manera, el instinto inmediato suele ser intentar eliminarla. Pero Goldberg enfatiza la importancia de preservar primero la evidencia tomando capturas de pantalla. “La reacción instintiva es sacarlo de Internet lo antes posible. Pero si quieres tener la opción de denunciarlo penalmente, necesitas pruebas”, dijo Goldberg citado por CNN.
Después de documentar el contenido, las víctimas pueden solicitar la eliminación de imágenes explícitas utilizando herramientas proporcionadas por empresas de tecnología como Google, Meta y Snapchat. Organizaciones como StopNCII.org y Take It Down ayudan a facilitar la eliminación de contenido dañino en múltiples plataformas.
Progreso legal
La lucha contra la pornografía deepfake ha atraído una rara atención bipartidista. En agosto de 2024, los senadores estadounidenses pidieron a las principales empresas tecnológicas como X (anteriormente Twitter) y Discord que participaran en programas destinados a frenar el contenido explícito objetable. Una audiencia en el Capitolio contó con testimonios de adolescentes y padres afectados por la pornografía generada por IA. Después de eso, se presentó un proyecto de ley en los Estados Unidos para penalizar la publicación de pornografía deepfake. La legislación propuesta requeriría que las plataformas de redes sociales eliminen dicho contenido después de la notificación de las víctimas.
Goldberg enfatiza que si bien las víctimas pueden tomar medidas para responder, la responsabilidad de actuar responsablemente recae en la sociedad. “Mi consejo activo es realmente que los delincuentes hagan lo correcto, como por ejemplo, no ser unos completos cabrones e intentar robar la imagen de una persona y usarla para insultar. No hay mucho que las víctimas puedan hacer para evitarlo. Nunca podremos estar completamente seguros en una sociedad digital, pero depende de unos de otros no ser un completo imbécil”, dijo Goldberg a CNN.
