La demanda dice que la herramienta de IA coloca desproporcionadamente a los reclusos negros en máxima seguridad en Ontario

Un programa de inteligencia artificial utilizado para clasificar los niveles de seguridad de los reclusos en las prisiones de Ontario está colocando desproporcionadamente a los reclusos negros en máxima seguridad, según Una investigación publicada por The Breach y una demanda colectiva presentada contra la provincia.

El informe del periodista Desmond Cole examinó la herramienta Evaluación de seguridad para evaluar riesgos (SAFER), que desde 2021 se ha utilizado para asignar puntuaciones de riesgo a los reclusos en las cárceles de Ontario en función de factores que incluyen el arresto y el historial disciplinario.

cita Información oficial En un análisis realizado por el criminólogo Scott Wortley de la Universidad de Toronto, el medio informó que los negros constituían alrededor del 5 por ciento de la población de Ontario, pero representaban cerca del 27 por ciento de los reclusos de máxima seguridad entre 2022 y 2025, mientras que los blancos estaban significativamente sobrerrepresentados en esta categoría como porcentaje de la población.

acción de claseLa denuncia, presentada por el bufete de abogados Koski Minsky, alega que la provincia era consciente de que la dependencia de la herramienta en datos históricos del sistema de justicia (que reflejan disparidades raciales documentadas en la vigilancia y la presentación de cargos) podría dañar desproporcionadamente a los reclusos negros, y que Ontario tomó medidas de mitigación al no extender protecciones similares a las prisiones negras para los reclusos aborígenes. Los documentos de capacitación del Ministerio del Interior citados por The Breach reconocieron que “evaluaciones como SAFF probablemente contribuyan a una sobrerrepresentación” de personas indígenas y racializadas en máxima protección.

The Breach informó que ni el Ministerio del Procurador General de Ontario ni Grant Duy, el investigador al que se le atribuye el diseño de SAFER, respondieron a las solicitudes de comentarios sobre la metodología o la precisión del programa. Un informe del Defensor del Pueblo de Ontario citado en la investigación señaló que había recibido quejas sobre el impacto desproporcionado de la herramienta en los reclusos negros y aborígenes, y que se estaba llevando a cabo una revisión ministerial del programa.