cnn
Un sistema de seguridad de inteligencia artificial detectó a un adolescente con un arma e inmediatamente alertó a la policía en Baltimore… bueno, al menos eso pensó, pero solo estaba señalando una bolsa de delicias con queso.
Nuevas imágenes de la cámara corporal de Kenwood High School en el condado de Baltimore, Maryland, capturaron el incidente Tucky Allen — Un estudiante de 16 años — quedó inmovilizado mientras estaba esposado cuando un sistema de detección de armas impulsado por inteligencia artificial le hizo señas, creyendo que llevaba una.
Después de registrarlo, no encontraron nada… Un oficial en la cámara corporal intenta explicar que el sistema de IA activó la alarma porque “la forma en que estabas comiendo papas fritas, Doritos, lo que sea, lo captó como un arma”.
La escuela utiliza Omnilert, un programa que aprovecha las cámaras existentes de la escuela para identificar objetos que parecen armas y luego alerta a los agentes de seguridad de la escuela y a las autoridades.
Allen habló con la estación de noticias local WBAL-TV11 News… y dijo que tenía ambas manos en la bolsa de chips con un dedo cuando el sistema lo señaló; no está claro si OmniAlert confundió el dedo con un arma.
Un portavoz del Departamento de Policía del Condado de Baltimore nos dijo… “Los oficiales respondieron de manera apropiada y proporcional según la información proporcionada en ese momento. El incidente se resolvió de manera segura después de determinar que no había ninguna amenaza”.
La IA puede ser una gran herramienta… pero definitivamente no siempre es correcta, y es una suerte que nadie haya resultado herido aquí.
