En algunos rincones de Internet, en algoritmos y canales de noticias especializados, una colegiala británica generada por IA se ha convertido en un fenómeno cultural.
Su nombre es Amelia, una “chica gótica” de cabello morado que lleva con orgullo una mini bandera sindical dondequiera que vaya y parece tener inclinación por el racismo.
Si no estás familiarizado con Amelia, es probable que pronto encuentres un meme viral inspirado en ella en Facebook o X, donde su fama va en aumento.
Los vídeos de Amelia suelen mostrarla paseando por Londres o por la Cámara de los Comunes, proclamando su amor por Inglaterra y advirtiendo sobre los peligros de los “musulmanes militantes” o los “inmigrantes del Tercer Mundo”. En un vídeo, es acosado por un hombre barbudo vestido con atuendo islámico por comer una salchicha de cerdo.
El mensaje ha sido bien ensayado en las redes sociales de extrema derecha, pero es la invención de la IA de Amelia lo que la ha hecho infinitamente adaptable, creando una tendencia viral en Internet en la que cualquiera con acceso a los chatbots convencionales puede participar. Los usuarios de X han recurrido a su herramienta Grok AI para crear los muchos memes de Amelia que ahora está apareciendo en línea.
Los orígenes del personaje son irónicos, por decir lo menos. Una de las primeras versiones de Amelia comenzó en un videojuego contra el extremismo financiado por el Ministerio del Interior del Reino Unido y creado para evitar que los jóvenes de entre 13 y 18 años se sintieran atraídos por el extremismo de extrema derecha en Yorkshire.
El camino: navegar por Internet y el extremismo Un juego sencillo en formato de opción múltiple con animaciones básicas. Sus jugadores viajan como personajes a una universidad. Se les invita a decidir en escenarios que incluyen descargar contenido potencialmente extremista o unirse a un personaje de Amelia en una manifestación organizada por “un pequeño grupo político” que protesta contra los cambios en la sociedad y la “erosión de los valores británicos”.
Algunas opciones dan lugar a remisiones en el marco del programa de prevención del terrorismo del gobierno británico.
Sin embargo, fue un desastre del personaje de Amelia que explotó en las redes sociales de una manera que sorprendió incluso a los creadores del juego original.
Una gran cantidad de iteraciones cada vez más sofisticadas generadas por IA incluyen una Amelia estilo manga, una versión de Wallace y Gromit, y encuentros de la “vida real” generados por IA entre ella y los personajes del padre Ted o Harry Potter, con lenguaje racista y mensajes de extrema derecha.
El análisis proporcionado a Logicically The Guardian, una organización del Reino Unido que monitorea la desinformación, indica que una cuenta anónima conocida por difundir hábilmente mensajes de extrema derecha comenzó con un meme de Amelia el 9 de enero con una publicación en X que ha sido vista 1,4 millones de veces.
El volumen de “AmeliaPosting” ha pasado de un promedio de 500 por día cuando la cuenta se presentó por primera vez al mundo a aproximadamente 10.000, a partir del 15 de enero, cuando alcanzó una audiencia internacional. El miércoles, publicó 11.137 publicaciones sólo en X.
En uno de los giros más surrealistas, ha surgido una criptomoneda Amelia, y los usuarios de las redes sociales buscan aumentar su valor en el creciente perfil del meme. El miércoles, Elon Musk retuiteó una cuenta X que promocionaba un token de criptomoneda Amelia.
“Lo que estamos viendo es la monetización del odio”, dijo Matteo Bergamini, fundador y director ejecutivo de Shout Out UK, una organización de capacitación en alfabetización política y mediática que desarrolló el juego original.
“Hemos visto grupos de Telegram enviándose mensajes en chino sobre Meme Coin y hablando sobre cómo inflar artificialmente su valor, por lo que se está ganando mucho dinero”.
La propia empresa ha sido blanco de una avalancha de correos de odio, incluidas amenazas de muerte que ahora han sido denunciadas a la policía.
Bergamini señaló que la empresa original nunca tuvo la intención de ser un juego en solitario. Más bien, estaba destinado a ser utilizado en el aula junto con un conjunto de recursos didácticos, un hecho que, según él, la cobertura y los comentarios ignoraron.
“Desafortunadamente ha habido mucha tergiversación”, dijo. “El juego no dice, por ejemplo, que la migración masiva en cuestión sea inherentemente mala”.
Otros han sugerido que la iniciativa fracasó, sobre todo al presentar a una “linda chica gótica” como un personaje negativo, lo que provocó que, sin darse cuenta, se convirtiera en el centro de admiración. Pero Bergamini dijo que el juego, que utilizó comentarios de grupos focales con jóvenes antes de la producción, continuó utilizándose y que los comentarios de las escuelas y otros fueron positivos.
Aun así, la velocidad y la sofisticación con la que se crearon en línea los memes supuestamente destructivos de Amelia lo sorprendieron.
“Nos dio una pausa para pensar en la seguridad, al mismo tiempo que demostró los riesgos reales inherentes a estas tecnologías emergentes de IA en lo que respecta a la democracia, la confusión y otras áreas”, dijo.
Siddharth Venkataramakrishnan, analista del Instituto para el Diálogo Estratégico (ISD), dijo: “Hemos visto el meme difundirse y expandirse significativamente en la derecha y más allá, pero también es notable cuán internacional se ha vuelto ahora.
“En cierto modo, llega al corazón de lo que podríamos llamar la extrema derecha ‘disociativa’: individuos que se posicionan fuera de la escena política dominante, aquellos que son ‘carteles de mierda’ que simplemente están siendo provocativos, otros a los que les gustan los memes cursi. Todo un ecosistema lo ha adoptado. Obviamente, las imágenes sexuales también son clave para un público objetivo casi juvenil”.
