El vídeo de 61 segundos del primer ministro británico Keir Starmer sería impactante si fuera cierto.
“El Reino Unido introducirá un toque de queda a nivel nacional, a partir de las 11 de la noche todas las noches”, pareció decir en uno de los miles de vídeos de TikTok que ha publicado durante los últimos seis meses. “Según estas nuevas normas, nadie podrá salir de su casa después de las 23:00 horas sin autorización oficial”.
Starmer nunca hizo tal política o anuncio. Pero gracias a los rápidos avances en la tecnología de inteligencia artificial, el primer ministro sonaba realmente aterrador con su movimiento nasal en el breve video. El vídeo falso atrajo más de 430.000 visitas e inspiró publicaciones similares en X y Facebook.
Ese vídeo, y otros similares, parecen haber sido eliminados por la empresa de redes sociales de propiedad china, que prohíbe oficialmente “falsificar fuentes auténticas o eventos de crisis, o retratar falsamente a figuras públicas en ciertos contextos”.
Pero el clip fue solo uno. 6.042 vídeos similaresCaracterizado por Mr. Starmer, el más característico. guardia de noticiasUna empresa que rastrea información errónea en línea entre mayo y diciembre A Informes recientesLa compañía dijo que los videos fueron publicados por cuentas a nombre de organizaciones de noticias falsas que suenan británicas, como “BBB UK News” y “Daily Britain News”. Las cuentas combinadas tenían más de 1 millón de seguidores en el momento en que se publicó el informe.
“Imita consistentemente a Starmer”, dijo Eva Maitland, analista senior sobre la influencia rusa en Newsguard. “Hace afirmaciones falsas o infundadas que hacen quedar mal al gobierno de Starmer, y están diseñadas para crear una fuerte reacción de la gente para que hagan clic en ello”.
Maitland dijo que los videos no parecían ser parte de un esfuerzo concertado por parte de adversarios extranjeros como Rusia o los oponentes políticos internos del primer ministro para dañarlo ante los ojos de los votantes. Más bien, dijo, probablemente estén siendo creados por creadores de contenido cuyo objetivo principal es ganar dinero creando videos que se vuelvan virales.
“Es en parte por el tipo de contenido de baja calidad, la escala en la que lo publican”, dijo, y agregó que los videos son “spam, contenido tipo clickbait, sin una motivación política clara”.
En la plataforma TikTok, a los creadores se les paga cuando su cuenta alcanza un cierto umbral de seguidores y un video supera una cierta cantidad de vistas. Esto puede alentarlos a crear una gran cantidad de videos explosivos con la esperanza de que algunos se difundan y se compartan ampliamente.
TikTok no revela exactamente cuánto dinero gana con cada video. Pero el vídeo del toque de queda por sí solo podría haberle reportado 3.500 dólares a su creador, dijo Philip N. Howard, profesor de la Universidad de Oxford y presidente del Panel Internacional sobre el Entorno de la Información.
“Si no hay un vínculo con un problema específico que preocupa a la República Popular China o al gobierno ruso, a menudo se trata de ganar un poco de dinero”, dijo.
La adopción generalizada de herramientas de generación de videos con IA fáciles de usar, como Sora de OpenAI, ha aumentado drásticamente la cantidad de videos falsos en TikTok y otras plataformas de redes sociales.
La oficina de Starmer no respondió a una solicitud de comentarios.
No está claro cuántas personas en Gran Bretaña han visto el vídeo. Maitland dijo que NewsGuard no puede rastrear dónde está alguien cuando hace clic en un video de TikTok, en gran parte porque la compañía no comparte esos datos.
Pero los vídeos falsos llegan en un momento especialmente difícil para el primer ministro, que ya sufre las bajas cifras de las encuestas. En algunas encuestas, el señor Starmer ha Calificación mínima de aprobación de cualquier líder británico desde que se realizó la encuesta por primera vez.
Además del video que afirma que Starmer declaró un toque de queda en todo el país, otros clips hicieron afirmaciones igualmente dramáticas (e igualmente falsas) que probablemente molestarían a los votantes británicos.
En un vídeo, el Primer Ministro parece estar anunciando nuevas leyes sobre licencias de conducir que podrían despojar a muchos británicos de su capacidad para conducir legalmente en el país. El titular decía: “ÚLTIMA HORA: Las impactantes nuevas reglas de la DVLA podrían cancelar su licencia de la noche a la mañana”.
Otro vídeo muestra la voz falsa de Starmer anunciando que las nuevas reglas permitirán a las autoridades acceder al teléfono de cualquier persona británica, incluidos sus datos personales.
Poco después de que Newsguard publicara su informe el 9 de diciembre, varios vídeos de Starmer estuvieron disponibles en TikTok. El 19 de diciembre, la mayoría parecía haber sido eliminada de la plataforma.
Pero Howard dijo que el uso de la inteligencia artificial en la política estaba creciendo rápidamente, particularmente como una forma para que los consultores políticos y directores de campaña probaran cómo afectarían los problemas al público.
“Así es como aprenden los malos actores”, dijo.
La organización del Sr. Howard, con sede en Suiza e investiga el sesgo y la confusión de la IA, recientemente Emitir una encuesta lo que indica que un contenido político similar se ha extendido por todo el mundo.
“Sabemos que ahora se ha extendido internacionalmente”, dijo. “Cuatro de cada cinco elecciones en todo el mundo contienen basura política generada por IA que es inapropiada y evidentemente engañosa”.
