Se ha ordenado a las empresas de redes sociales que tomen medidas urgentes para evitar que el contenido ilegal se vuelva viral mientras los reguladores luchan por detener el patrón vertiginoso de desinformación que circuló después de los disturbios del verano de 2024.
Sitios como X, anteriormente Twitter y TikTok, deben implementar un “protocolo de crisis” para intervenir cuando el intercambio de contenido peligroso comienza a aumentar.
Según la medida implementada por el regulador tecnológico del Reino Unido, Ofcom, las plataformas en línea también tendrán que mantener una línea dedicada de canal de comunicación a través del cual la policía pueda contactarlas en caso de crisis.
Esto surge de las preocupaciones en el nivel más alto del gobierno sobre la velocidad a la que se difunde la información errónea en momentos críticos. El anuncio de Ofcom también se produce tras el estallido de disturbios en Southampton por la respuesta policial al apuñalamiento mortal de Henry Novak.
La idea de obligar a las plataformas de redes sociales a tomar medidas urgentes para detener el contenido viral ilegal fue propuesta por el Comité de Ciencia, Innovación y Tecnología de los Comunes.
Hizo la recomendación tras una investigación que comenzó después de los disturbios del verano de 2024, cuando rápidamente se difundió información errónea después de que tres niñas murieran en una clase de baile en Southport.
Su informe encontró que “los mensajes engañosos y de odio se difunden rápidamente en línea, amplificados por los algoritmos de recomendación de las empresas de redes sociales”.
Ofcom dijo que definiría una crisis como una “situación excepcional en la que existe una grave amenaza a la seguridad pública en el Reino Unido”, que probablemente “resultará en un aumento significativo del contenido relevante”.
“Durante una crisis, ciertos tipos de contenido ilegal y/o contenido dañino para los niños pueden difundirse rápidamente en línea”, dijo. “En algunos casos, esto podría suponer un riesgo importante para la seguridad pública en el Reino Unido.
“Por ejemplo, la evidencia de crisis anteriores ilustra cómo los delincuentes utilizan los servicios en línea para llevar a cabo actividades ilegales como incitar al odio racial o religioso, hacer amenazas o incitar a la violencia. Esto puede conducir a un aumento en la cantidad de contenido ilegal difundido en línea, pero también a la violencia en el mundo real”.
“Estas crisis son excepcionales y significan que los sistemas y procesos normales de control de contenidos de los proveedores de servicios en línea pueden no ser suficientes en tales situaciones”.
El listón para implementar dichos protocolos es alto y se trata de contenido completamente inválido. El nuevo sistema entrará en vigor tras la aprobación del Parlamento.
La medida es una señal de la urgencia con la que los ministros y reguladores están dispuestos a abordar la velocidad con la que la información errónea puede viajar en el entorno a menudo confuso de una crisis.
Los expertos que examinan el flujo de contenidos virales peligrosos también señalan otras medidas exitosas para contrarrestar la rápida desinformación. Un análisis del Centro de Seguridad y Tecnologías Emergentes (SETUS) encontró que “desacreditar” los esfuerzos que involucran a las fuerzas policiales, líderes comunitarios y concejales locales podría ser eficaz para alertar a las comunidades sobre información falsa.
Su investigación encontró que una respuesta rápida y coordinada a un incidente en Liverpool, donde un automóvil atropelló a los espectadores en el desfile por el título de liga del Liverpool FC en mayo del año pasado, ayudó a reducir el riesgo de difusión de información errónea en línea.
