Un hombre de Florida está demandando a varias agencias policiales por su arresto y procesamiento por supuestamente atraer a un niño después de que fue identificado por error utilizando un software de reconocimiento facial de IA defectuoso.
Según el Departamento de Policía de Jacksonville Beach, un algoritmo arrojó una probabilidad del 93% de que Robert Dillon fuera captado por las cámaras de seguridad de un McDonald’s de la ciudad tratando de persuadir a una niña menor de 12 años no acompañada para que se fuera con él.
Dillon, sin embargo, vive en Fort Myers, a más de 300 millas y a cinco horas en auto, y dijo a los detectives que nunca había estado en Jacksonville Beach en su vida.
La demanda fue desestimada y El cargo se reduce El año pasado sobre los acontecimientos de agosto de 2024.
Ahora el hombre de 52 años ha presentado un caso. un caso Departamento de Policía, Oficina del Sheriff de Jacksonville y Sheriff del Condado de Pinellas, Bob Gualtieri, cuya agencia mantiene y opera el sistema FACE (Examen y Comparación de Análisis Facial) y lo alquila a otras agencias encargadas de hacer cumplir la ley.
“(La) investigación resultó en el arresto injusto y el procesamiento de un hombre inocente”, dijo la Unión Americana de Libertades Civiles (ACLU) en una demanda presentada en nombre de Dillon en el Tribunal de Distrito de Fort Myers el martes.
“El Sr. Dillon fue arrestado en su casa frente a su esposa. Fue acusado de intentar seducir a un niño, causando un estigma social devastador y un daño permanente a su reputación. Sufrió meses de procesamiento penal y fue marcado con una foto en la cara accesible públicamente en línea mucho después de que se retiraran los cargos.
“Ya no se siente cómodo siendo amigable con los niños. Ninguna agencia policial se ha disculpado ni admitido haber actuado mal”.
La demanda también alega que el caso de Dillon es al menos el decimoquinto a nivel nacional en el que una persona ha sido acusada o arrestada después de una identificación falsa.
Una investigación de The Guardian del mes pasado encontró que la supervisión de los sistemas de reconocimiento facial de IA es lamentablemente inadecuada, en el Reino Unido y en otros lugares, y que los avances en la tecnología han superado con creces la capacidad de regulación de las autoridades.
“En lugar de comparar la respuesta de la máquina con la evidencia, los oficiales construyeron un caso para confirmarla”, dice la demanda de Dillon.
Encontró que Scott O’Connell, el investigador principal del JBPD en el caso, omitió intencionalmente “múltiples categorías de pruebas incriminatorias fácilmente verificables” de la declaración jurada de arresto.
Los lectores de matrículas mostraron que ninguno de los autos de Dillon estaba cerca del restaurante, según documentos judiciales. También alegó que O’Connell ocultó al magistrado que emitió la orden de arresto que la imagen del rostro del sospechoso pasada por el software era una captura de pantalla de baja definición y mala calidad de imágenes de seguridad tomadas con el teléfono celular de un oficial, no una carga digital de la grabación.
Además, la demanda afirma que O’Connell no cuestionó la afirmación de un empleado de McDonald’s, que eligió a Dillon entre una serie de fotografías de seis caras similares, de que el sospechoso era un “cliente habitual” de su restaurante que lo había visitado varias veces la semana anterior.
O’Connell sabía que Dillon vivía a cientos de kilómetros de distancia, según la demanda, y sabía que eso era imposible.
Nate Fried Wessler, subdirector del proyecto de expresión, privacidad y tecnología de la ACLU, dijo en un comunicado: “Estos departamentos de policía de Florida le deben al Sr. Dillon hacer las paces y tomar medidas serias para garantizar que
“La policía de todo el país está alerta: la tecnología de reconocimiento facial poco confiable está perjudicando a las personas y continuaremos luchando para responsabilizarlos por estos abusos”.
Un caso distinto pero similar Como se informó a principios de este mesJalil Richardson de Charlotte, Carolina del Norte, dijo que fue extraditado a Jacksonville y pasó unos tres meses en prisión después de que el reconocimiento facial automático lo ubicara en la escena de un robo de automóvil. Las tarjetas de tiempo muestran que estaba trabajando a 400 millas de distancia en el momento del robo.
Mientras tanto, Dillon dijo que estaba traumatizado por su experiencia.
“Más de un año después, todavía estoy recogiendo los pedazos de mi vida, porque la policía confió en esta tecnología peligrosa en lugar de hacer su trabajo e investigar”, dijo.
“La policía de Florida debe implementar medidas de seguridad y asegurarse de que esto no le suceda a nadie más, porque nadie está a salvo hasta que eso suceda”.
The Guardian se comunicó con el Departamento de Policía de Jacksonville Beach para solicitar comentarios.
