Según una investigación del Senado, no parece haber ningún obstáculo legal para que un hombre anule un controvertido algoritmo que determina el apoyo financiero a los australianos mayores, a pesar de que a los asesores del gobierno se les ha prohibido hacerlo.
La Herramienta de Evaluación Integrada (IAT), que se introdujo en noviembre como parte de la reforma del apoyo al cuidado de personas mayores en el hogar, se utiliza para evaluar la elegibilidad y determinar los niveles de financiación para los servicios de cuidado de personas mayores.
Pero Guardian Australia informó cómo el algoritmo subestimaba con frecuencia el nivel de necesidad y criticó el IAT después de que el gobierno eliminara la capacidad de los evaluadores de anular un resultado incorrecto para el apoyo domiciliario.
El miércoles por la noche, el personal del Departamento de Salud, Discapacidad y Envejecimiento confirmó que el gobierno había buscado asesoramiento sobre cómo restablecer la función de anulación. Audiencia sobre apoyo en casa.
La senadora de los Verdes Penny Allman-Payne Pregunta al personal superior Respecto a la “base jurídica de la imposibilidad de anular a los humanos como parte de ese proceso”.
El primer subsecretario del departamento, Robert Day, dijo: “Ninguna anulación surge del hecho de que se trata de un resultado previsto”.
“Si obtienes estos puntajes de la evaluación, obtienes este nivel de clasificación… no hay ningún componente discrecional”, dijo Day.
El Manual del usuario de IAT incluye una sección sobre la función de anulación, pero no vincula expresamente ninguna restricción sobre su uso con una disposición específica de la Ley de Atención a la Edad.
El senador liberal Paul Scar lo hizo Preocupaciones planteadas anteriormente En cuanto a la legalidad de prohibir a los evaluadores anular resultados, el mes pasado le dijo al Senado que aunque el manual del usuario “se refiere a la Regla 81-10 de las Reglas de Cuidado de Ancianos”, esas reglas “no hacen referencia a evaluaciones anulas”.
“Estas normas sobre el cuidado de personas mayores se presentaron ante la comisión delegada de control de la legislación, en la que yo pertenezco”, afirmó. “No hubo ninguna sugerencia de que estas directrices evitarían la anulación de las evaluaciones”.
Scarr dijo a Guardian Australia que era “profundamente inquietante” que una guía de usuario pudiera “imponer la toma de decisiones automatizada en situaciones claramente inapropiadas”.
Se produce después de que un denunciante le dijera a Guardian Australia que el algoritmo a menudo dejaba a los australianos mayores sin financiación y atención adecuadas, o rebajaba su apoyo actual.
Los funcionarios del departamento confirmaron el miércoles que el departamento realizó pruebas de algoritmos en 2024 y 2025, pero solo siguen vigentes las anulaciones humanas. Esto no se probó después de eliminar la capacidad de anular.
El componente algorítmico del IAT formó una parte importante de las preguntas de los senadores durante la audiencia del miércoles.
“¿Cuál es el punto de tener a alguien con experiencia… y no empoderarlo para que realmente haga cambios si ve un defecto?” preguntó el senador independiente David Pocock.
“¿Dónde está la gente en todo esto?”
En respuesta, el personal del departamento dijo que no había manera de saber cuántas veces un evaluador expresó preocupación por los resultados del IAT, ya que estos datos no fueron rastreados.
La investigación escuchó que el departamento había recibido 834 solicitudes para una revisión interna de los resultados del IAT desde su lanzamiento en noviembre. Una revisión, que tarda una media de más de dos meses, es el único recurso si el algoritmo ha cometido un error.
“Anoche nos enteramos de que las solicitudes de revisión de IAT se han disparado desde el 1 de noviembre, y que la base legal y regulatoria para automatizar la clasificación y eliminar la supervisión humana es, en el mejor de los casos, cuestionable”, dijo Allman-Payne a Guardian Australia el jueves.
“Está claro que eliminar las anulaciones humanas y derribar los algoritmos está teniendo un efecto perjudicial en las personas mayores. Cuando las personas con afecciones degenerativas como la enfermedad de la neurona motora se reducen a sus necesidades de atención evaluadas, es evidente que algo anda mal”.
