Un psiquiatra de Melbourne ha rechazado nuevos pacientes a menos que acepten permitirle utilizar un escriba de IA para transcribir conversaciones en sus sesiones.
Según el Real Colegio Australiano de Médicos Generales (RACGP), las herramientas para tomar notas basadas en inteligencia artificial se están volviendo populares dentro de la industria médica: dos de cada cinco médicos generales utilizan actualmente este tipo de escribanos.
Pero también existen preocupaciones sobre la seguridad de los datos y cómo las empresas de inteligencia artificial podrían utilizarlos, junto con la precisión de la transcripción.
En un formulario de registro visto por Guardian Australia, el psiquiatra Dr. Hemlata Ranga describió los requisitos para los pacientes potenciales.
“Doy mi consentimiento para el uso de software de transcripción de IA (por ejemplo, Heidi Health AI/Microsoft) para tomar notas durante las citas para preparar correspondencia clínica, informes y otros documentos clínicos para ayudar en mi atención clínica”, dice el formulario.
A los pacientes se les dice que si no desean utilizar IA deben “hacer arreglos con (su) médico habitual/médico remitente para que los derive a otro proveedor”.
La contratación de escribas de IA se ha duplicado en 12 meses, dice el RACGP, y se produce en medio de un aumento en la demanda de servicios de salud mental.
Pero un paciente que fue remitido a Ranga, que pidió no ser identificado, le dijo a Guardian Australia que se oponía al uso de IA en sus sesiones.
“La forma en que estaba redactado (el formulario), tan a la defensiva, me hizo pensar que tal vez había muchas otras personas que dijeron algo y llegó al punto en que simplemente pensaron: ‘Simplemente no quiero lidiar más con sus objeciones. Hagamos que firmen algo que diga que tenemos que usarlo'”.
El paciente dijo que no era lo mismo buscar un psiquiatra que acudir a otras farmacias, sobre todo cuando Ranga las recomendó y no buscó otro psiquiatra.
“No es fácilmente reemplazable, y el proceso de volver a tu médico, programar una cita y, a menudo, esperar en otra lista de espera para regresar… sólo porque no quieres usar IA… es realmente extraño”.
Ranga, cuya práctica se encuentra en la Clínica Melbourne en Richmond, no respondió a una solicitud de comentarios.
Una portavoz de la Clínica Melbourne dijo que no instruye a sus psiquiatras acreditados sobre el uso de la IA, pero entiende que los psiquiatras están incorporando cada vez más el uso de la IA para ayudar a gestionar las cargas administrativas.
“En ese caso, los psiquiatras revelarán el uso de la IA a todos los pacientes y solicitarán el consentimiento antes de usarla. Si no se da el consentimiento, no usarán la IA”.
La portavoz dijo que los profesionales de la clínica son, en última instancia, independientes de la clínica.
Heidi AI, una de las autoras de IA más populares, se ha utilizado en 115 millones de sesiones en los últimos 18 meses.
El cofundador de Heidi AI en Melbourne, el Dr. Tom Kelly, dijo en marzo que los datos se procesaron en el país donde se encontraba el paciente y no se utilizaron para entrenar la IA ni venderla a otros. La empresa utiliza pruebas y auditorías de terceros para mantener los datos seguros y pretende garantizar altos estándares en las transcripciones, pero los médicos aún necesitan verificar sus notas.
Riesgo y regulación
Tom Salston, jefe de políticas de Digital Rights Watch, dijo que las transcripciones de IA eran imperfectas y a menudo se entrenaban en usuarios masculinos, blancos, heterosexuales y de habla inglesa, lo que significa que los errores eran más comunes en otras poblaciones.
Dijo que existía un “riesgo muy real” de que los datos médicos se vieran comprometidos o filtrados, y que los pacientes que desconfían de los autores de IA podrían autocensurarse.
“Esto es particularmente importante en áreas de la atención sanitaria que pueden acarrear estigma en la sociedad en general, por ejemplo, la salud sexual y mental”, afirmó.
“La IA no se aplica para mejorar los resultados de la atención sanitaria o la experiencia del paciente, sino para reducir los costes administrativos de una clínica”.
“En esta situación, los pacientes no son clientes, son productos”.
Según la RACGP, los grupos de consumidores han expresado su preocupación por la falta de diálogo sobre el consentimiento con los pacientes sobre el uso de herramientas de inteligencia artificial o por un desequilibrio de poder entre pacientes y médicos.
Sulston dijo que a nadie se le debe negar la atención médica porque no quiere verse obligado a proporcionar sus datos personales a la IA y pidió una regulación más estricta, ya que las herramientas ahora están exentas de las regulaciones de la Administración de Productos Terapéuticos porque no diagnostican a los pacientes.
“Los reguladores y legisladores deben dar un paso adelante y dar a los australianos el derecho legalmente protegido de rechazar los sistemas de IA sin dañar nuestra salud”, afirmó.
El paciente afirmó que las personas deberían poder optar por no recibir escribas y sugirió que no estaban seguros de que las notas tomadas fueran precisas.
