En los últimos años, tanto las marcas como los spammers han estado utilizando Reddit para manipular chatbots de IA inundando subreddits clave con contenido promocional, y estos esfuerzos se están volviendo más sofisticados.
Según un 404 Informes publicados por los medios de comunicación.Su moderador r/biohacker (un gran subreddit centrado en suplementos y biología casera) anunció la semana pasada que estaban restringiendo las publicaciones sobre péptidos y terapias de reemplazo hormonal después de descubrir que las empresas que vendían estos productos estaban sembrando sistemáticamente a la comunidad con contenido patrocinado diseñado para ser eliminado por herramientas como ChatGPT y las herramientas de búsqueda de inteligencia artificial de Google.
El modo Google AI etiqueta algunas publicaciones de Reddit y redes sociales como “consejos de expertos”
cae bajo el paraguas de la práctica Optimización generativa del motor de IA (GEO), o AI-Engine Optimization (AEO), es una evolución de la optimización de motores de búsqueda (SEO) tradicional. Debido a que los chatbots de IA a menudo recurren a Reddit para generar respuestas, las empresas han identificado la plataforma como un objetivo de alto valor para dar forma a lo que recomiendan esas herramientas.
Las empresas de marketing han creado ofertas completas de servicios en torno a esto. 404 Media identificó una empresa, RedRover, que anuncia públicamente el despliegue de agentes de inteligencia artificial para publicar contenido ampliamente en Reddit y blogs para influir en las clasificaciones de Google y ChatGPT.
Velocidad de la luz triturable
Un moderador le dijo a 404 Media que lo que dificulta la vigilancia es que las cuentas se hacen deliberadamente para que parezcan humanas. Las cuentas marcadas tienen un historial de publicaciones, interacción aparentemente orgánica y menciones de marca en momentos estratégicos enterradas en hilos de alto tráfico.
Reddit dijo a 404 Media que sus equipos de seguridad utilizan herramientas automatizadas para identificar y eliminar dicho contenido, pero los moderadores dicen que las técnicas se han vuelto lo suficientemente sofisticadas como para detectarlos depende cada vez más del reconocimiento de patrones en lugar de cualquier sistema automatizado. Política de spam de Reddit Prohibir el uso de la Plataforma para “participación masiva repetitiva o no solicitada”.“
La asociación de Reddit con los bots y la manipulación es anterior a la era de la IA. La plataforma ha luchado concertadamente contra el comportamiento poco ético a lo largo de los años, desde Anillos de manipulación de votos de Campañas de influencia patrocinadas por el estado En cuentas de spam variadas, con resultados mixtos. En 2024, Reddit actualizó su archivo robots.txt para impedir que los raspadores de IA no autorizados accedan a los datos, y el director jurídico de la compañía admitió ante Mashable que esto no era legalmente exigible, pero servía como una señal pública de que el acceso sin licencia al contenido de Reddit no era bienvenido.
Hay una ironía en el problema actual de OEA: Reddit tiene acuerdos de licencia con empresas de inteligencia artificial al mismo tiempo. incluyendo OpenAI – para permitir que sus modelos sean entrenados en contenido de Reddit para uso comercial. Al mismo tiempo, la plataforma vende sus datos a la IA y lucha por mantener la manipulación impulsada por la IA fuera de su comunidad.
¿Quiere obtener más información sobre cómo aprovechar al máximo su tecnología? Suscríbase al boletín informativo sobre las mejores historias y ofertas de Mashable hoy
sujeto
Reddit de inteligencia artificial
