Puede surgir un nuevo tipo de amenaza política, y es mucho menos visible que las protestas o la manipulación tradicional de los votantes. Los investigadores advierten que individuos muy realistas controlados por IA pronto podrían desempeñar un papel más importante en la formación de la opinión pública y la influencia en los sistemas democráticos.
Se ha publicado un documento reciente del Foro de Políticas. ciencia Describe cómo grandes grupos de individuos generados por IA pueden imitar en gran medida el comportamiento humano en línea. Estos sistemas pueden ingresar a comunidades digitales, participar en discusiones e influir en actitudes con extraordinaria velocidad. A diferencia de las redes de bots anteriores, estos agentes de IA pueden coordinarse instantáneamente, responder a comentarios y mantener detalles consistentes en miles de cuentas.
Cómo las personas con IA imitan a personas reales en línea
Los rápidos avances en grandes modelos lingüísticos y sistemas multiagente han hecho posible que un único operador gestione grandes redes de “voces” de IA. Estas personas pueden parecer auténticas, adoptar el idioma y el tono nativos y comunicarse de maneras que parezcan naturales para otros usuarios.
También pueden realizar millones de pruebas a pequeña escala para determinar qué mensajes son más persuasivos. Esto les permite perfeccionar sus estrategias de comunicación en tiempo real y generar lo que parece ser un acuerdo público amplio. En realidad, ese consenso se crea y diseña artificialmente para influir en el discurso político.
Los deepfakes y las noticias falsas indican el principal riesgo
Si bien los enjambres de IA completamente desarrollados todavía son en gran medida teóricos, los investigadores dicen que ya hay señales de advertencia. Según el científico informático de la UBC, Dr. Kevin Layton-Brown, estos incluyen deepfakes generados por IA y medios de noticias falsos que han influido en las recientes conversaciones electorales en países como Estados Unidos, Taiwán, Indonesia e India.
Al mismo tiempo, las agencias de seguimiento han identificado redes pro-Kremlin que difunden grandes cantidades de contenido en línea. Se cree que esta actividad tiene como objetivo dar forma a los datos utilizados para entrenar futuros sistemas de IA, influyendo potencialmente en cómo se comportan esos sistemas y qué información priorizan.
Los expertos advierten de la creciente influencia sobre la democracia
De cara al futuro, los expertos creen que los enjambres de IA pueden afectar significativamente el equilibrio de poder en las sociedades democráticas. La Dra. Layton-Brown advirtió que estos sistemas podrían cambiar la forma en que las personas confían en la información en línea. “No debemos imaginar que la sociedad permanecerá sin cambios a medida que surjan estos sistemas. Un posible resultado es una pérdida de confianza en voces desconocidas en las redes sociales, lo que puede empoderar a las celebridades y hacer que los mensajes de base sean más difíciles de difundir”.
Los investigadores sugieren que las próximas elecciones podrían servir como una prueba importante para esta tecnología. El desafío clave será reconocer y responder a estas campañas de influencia impulsadas por la IA antes de que se vuelvan demasiado generalizadas para controlarlas.
