La policía de Essex ha suspendido el uso de la tecnología de reconocimiento facial en vivo (LFR) después de que un estudio encontró que era más probable que las cámaras apuntaran a personas negras que a personas de otras etnias.
Hubo una medida para suspender el uso de sistemas habilitados para IA publicado Por la Oficina del Comisionado de Información (ICO), que hasta ahora controla el uso de la tecnología por parte de al menos 13 fuerzas policiales desplegadas en Londres, Gales del Sur y del Norte, Leicestershire, Northamptonshire, Hampshire, Bedfordshire, Suffolk, Greater Manchester, West Yorkshire, Surrey y Sussex.
La ICO dijo que la policía de Essex había detenido el despliegue del LFR “después de identificar posibles riesgos de precisión y sesgo” y alertó a otras fuerzas para mitigarlo. Los sistemas LFR se montan en ubicaciones fijas o se colocan en furgonetas. En enero, la ministra del Interior, Shabana Mahmud, anuncio El número de furgonetas LFR se quintuplicará, con 50 disponibles para cada fuerza policial en Inglaterra y Gales.
Essex encargó a académicos de Cambridge que dirigieran la universidad Estudiaren el que participaron 188 actores que pasaban junto a cámaras desplegadas activamente desde furgonetas policiales señalizadas en Chelmsford. Los resultados se publicaron la semana pasada y mostraron que aproximadamente la mitad de las personas en una lista de vigilancia fueron identificadas correctamente y las identificaciones erróneas eran extremadamente raras, pero era más probable que el sistema identificara correctamente a los hombres que a las mujeres y que era “estadísticamente significativamente más probable que identificara correctamente a los participantes negros que a los participantes de otros grupos étnicos”.
Esto “plantea dudas sobre la imparcialidad que requieren un seguimiento continuo”, concluye el informe. Uno de sus autores, el Dr. Matt Bland, criminólogo, dijo a The Guardian y Liberty Investigates: “Si eres un criminal con cámaras de reconocimiento facial instaladas en Essex, es más probable que estés en una lista de vigilancia de la policía si eres negro. Para mí, eso merece una mayor investigación”.
El problema es independiente de las preocupaciones públicas más generales sobre la tecnología que identifica a personas inocentes. El mes pasado se supo que la policía arrestó a un hombre por robo en una ciudad en la que nunca había estado en un radio de 100 millas porque el software de escaneo facial anterior lo confundió con otro hombre de ascendencia del sur de Asia.
Las posibles razones de los problemas recientes de LFR incluyen el sobreentrenamiento del algoritmo en caras negras. Los expertos creen que esto se puede solucionar ajustando la configuración del sistema. Un estudio separado de la misma tecnología realizado por el Laboratorio Nacional de Física del Gobierno. encontró Los hombres negros tenían más probabilidades de ser emparejados correctamente por el sistema y los hombres blancos menos, pero el efecto no fue estadísticamente significativo.
Hay una oficina en casa dicho Las cámaras LFR desplegadas en Londres desde enero de 2024 hasta septiembre de 2025 arrestaron a más de 1.300 personas por delitos como violación, abuso doméstico, robo y lesiones corporales graves. Pero los opositores a la tecnología de reconocimiento facial dicen que las últimas investigaciones están generando preocupaciones sobre el sesgo en la tecnología LFR.
“La policía de todo el país debe tomar nota de este fracaso”, afirmó Jack Harfurt, jefe de investigaciones de Big Brother Watch. “La vigilancia mediante IA que sea experimental, no probada, inexacta o potencialmente sesgada no tiene cabida en nuestras calles”.
La policía de Essex dijo: “La fuerza decidió detener el despliegue basándose en un posible sesgo mientras trabajábamos con el proveedor de software de algoritmos para revisar los resultados y actualizar el software. Luego buscamos una evaluación académica adicional.
“Como resultado de este trabajo, hemos revisado nuestras políticas y procedimientos y ahora confiamos en que podemos comenzar a implementar esta importante tecnología como parte de las operaciones policiales para rastrear y arrestar a los delincuentes buscados. Continuaremos monitoreando todos los hallazgos para garantizar que no haya riesgo de parcialidad contra ningún sector de la comunidad”.
