Un jefe de policía admite que la inteligencia artificial utilizada para impulsar la lucha contra el crimen tendrá prejuicios, pero promete abordar los riesgos.
Los laboristas quieren una expansión drástica del uso policial de la IA en Inglaterra y Gales, y los jefes de policía también creen que podría ayudar a las fuerzas del orden a mantenerse al día con las nuevas amenazas criminales.
Alex Murray dijo a The Guardian que un nuevo centro de inteligencia artificial de la policía nacional reconocería los riesgos de sesgo y los reduciría.
El sesgo en el uso de la IA en la actuación policial puede dar lugar a casos en los que los algoritmos (a menudo entrenados con datos históricos que reflejan prejuicios humanos del pasado) producen resultados sistemáticamente injustos, como centrarse demasiado en comunidades minoritarias o identificar erróneamente a personas por motivos de raza, género o estatus socioeconómico.
Murray, director de liderazgo de amenazas de la Agencia Nacional contra el Crimen y líder nacional en IA, dijo: “Una vez que se reconoce y se reduce (el sesgo), ¿cómo se capacita a los oficiales para lidiar con la producción de manera que sea aún menor?
“Si se habla de reconocimiento facial en vivo o vigilancia policial predictiva, habrá sesgos y será necesario involucrar a científicos e ingenieros de datos para limpiar los datos, entrenar adecuadamente el modelo y luego probarlo.
“No tiene sentido dejar que la actuación policial tenga un sesgo que no se reconoce, y se debe hacer todo lo posible para reducirlo a un nivel en el que pueda entenderse y mitigarse”.
Ya han surgido ejemplos de sesgo en el uso policial del reconocimiento facial impulsado por IA. Ahí es donde se compara a un sospechoso con una base de datos de imágenes posteriores a un crimen.
El reconocimiento facial en vivo, que es más controvertido y menos utilizado por la policía, busca sospechosos en tiempo real y tiene sesgos. Un informe de diciembre encontró que un sistema de reconocimiento facial anterior utilizado por la policía se utilizó con una protección inadecuada.
La Asociación de Comisionados de Policía y Crimen (APCC), que supervisa las fuerzas locales en Inglaterra y Gales, dijo: “Hace tiempo que se conocen fallos del sistema, pero no se han compartido con las comunidades afectadas ni con las principales partes interesadas del sector”.
El jefe de ciencia forense de APCC, Darryl Preston, comisionado de policía y delitos de Cambridgeshire, dijo: “El descubrimiento de un sesgo incorporado en los sistemas de reconocimiento facial anteriores a la base de datos nacional de la policía, incluso en circunstancias limitadas, demuestra la necesidad de una supervisión independiente de estas poderosas herramientas.
“No es aceptable utilizar tecnología a menos y hasta que se pruebe exhaustivamente para eliminar el sesgo. Claramente, ese no fue el caso en este caso”.
El nuevo centro nacional de IA, que costará 115 millones de libras esterlinas, tendrá como objetivo reducir el sesgo, afirmó Murray, además de evaluar y decidir qué productos funcionan con proveedores privados. Actualmente, cada fuerza en el Reino Unido toma sus propias decisiones, que se consideran lentas y derrochadoras.
Murray dijo que la policía estaba en una “carrera armamentista” con los delincuentes que usaban la tecnología: “Cualquiera con imaginación puede usar la IA”.
En un caso, un pedófilo afirmó que las fotos que lo mostraban abusando de niños eran un deepfake, por lo que la policía tuvo que negarse a condenarlo.
Murray dijo que los beneficios de la IA van más allá de los “clichés más cercanos de los informes de las minorías y la vigilancia policial predictiva”.
Añadió que en diversos delitos y desafíos que enfrenta la policía, la IA va desde una ayuda hasta un elemento de cambio, pero un oficial de policía humano tiene que tomar la decisión final sobre qué hacer con los hallazgos de la IA.
Dijo que podría ayudar a la policía a lidiar con los agitadores políticos que infectan las redes sociales con imágenes falsas para intentar iniciar la violencia en las calles.
Con el tiempo, dijo Murray, esto podría ayudar en cacerías humanas, o acelerar las búsquedas de automóviles vinculados a sospechosos y ahorrarles a los detectives cientos de horas rastreando extensas imágenes de CCTV, o acelerar las búsquedas de dispositivos digitales incautados a sospechosos en busca de pruebas sospechosas.
“Lo que podría llevar días, semanas y a veces meses, puede llevar horas”, afirmó.
En un caso reciente, cuatro sospechosos de Luton fueron arrestados por asalto y robo en un cajero automático. La policía descargó datos de los teléfonos de los sospechosos y, gracias a la IA, dictó condenas en cuestión de semanas.
La información estaba en rumano y fue calificada por IA, traducida, identificados elementos relacionados con posibles delitos, identificados delitos y presentados en un paquete para detectives.
El jefe de policía Trevor Rodenhurst de la fuerza de Bedfordshire dijo a The Guardian: “Nos permite extraer pruebas de muchos dispositivos con muchos datos, algo que no habríamos podido hacer de otra manera”.
Rodenhurst dijo que a medida que los oficiales utilizan la IA y ven sus beneficios, está cambiando la perspectiva en la primera línea: “Ya no son escépticos, preguntan cuándo podrán obtenerla. Esa capacidad es transformadora”.
