Una demanda reciente presentada en el Tribunal Superior de San Diego alega que Sharp Healthcare grabó conversaciones entre médicos y sus pacientes sin consentimiento por escrito, utilizando la información para documentar las visitas a través de un programa de inteligencia artificial desarrollado por una empresa privada en Pittsburgh.
Si bien la demanda se centra en un proveedor médico especializado del condado de San Diego que intenta presentar una demanda colectiva contra los pacientes de Sharp, también arroja luz sobre la adopción silenciosa pero generalizada del software de transcripción clínica impulsado por IA en la medicina convencional.
Una encuesta de proveedores médicos de San Diego realizada después de que se presentó la demanda el 26 de noviembre mostró que varios proveedores en la región estaban usando sistemas similares.
El Rady Children’s Hospital de San Diego dijo en un correo electrónico que “actualmente está llevando a cabo una prueba piloto limitada de tecnología de escritura ambiental en la que los médicos deben obtener el consentimiento del paciente antes de su uso”. UC San Diego Health confirmó que utiliza un sistema llamado Nabla, que instaló “después de una exhaustiva revisión de seguridad”. University Health System dice que se requiere el consentimiento del paciente antes de usar el sistema, que incluye “un consentimiento anual por escrito (más) un consentimiento oral del paciente y de todas las partes en la sala de examen en cada visita”. Kaiser Permanente dijo en un comunicado que sus médicos “tienen acceso a una herramienta de soporte de documentación clínica que ayuda a capturar de forma segura notas clínicas básicas durante las visitas de los pacientes, permitiéndoles centrarse más en la atención al paciente”. Kaiser dice que su sistema “requiere que el equipo de atención solicite el permiso de nuestros pacientes y otras personas que están con ellos antes de utilizar esta herramienta”.
Scripps Health, uno de los cuatro principales proveedores médicos en el mercado de San Diego, se negó a discutir si utiliza dicho sistema y dijo en un comunicado que “no es algo que discutamos”.
Paradise Valley Hospital dijo que no utiliza ningún tipo de sistema de toma de notas de IA, mientras que Palomar Health y Tri-City Medical Center en el norte del condado no respondieron a las preguntas.
Cuando se le pidió que comentara sobre las acusaciones de la demanda de que no notificó adecuadamente a los pacientes en el sistema de documentación médica, Sharp dijo que “la seguridad y la privacidad del paciente son siempre nuestras principales prioridades”, y agregó que “no podía comentar sobre litigios pendientes”.
La demanda, presentada en nombre del paciente de Sharp, José Saucedo, por el abogado Robert Salgado, busca la certificación como una demanda colectiva y alega que Sharp violó la Ley de Privacidad Médica al “usar dispositivos de grabación electrónicos y sistemas de procesamiento basados en la nube para registrar secretamente todas las consultas médicas sin previo aviso ni consentimiento”.
La demanda busca daños compensatorios y punitivos no especificados, señalando que los estatutos penales estatales permiten daños y perjuicios de $5,000 por violación.
Las grabaciones, dice la demanda, fueron enviadas a Abridge, una empresa de tecnología con sede en Pittsburgh que recientemente recibió una importante inversión del sector tecnológico en su sistema habilitado para IA, que según dijo en un comunicado de prensa del 10 de diciembre ahora se utiliza “en más de 200 entornos de atención ambulatoria al año”.
La empresa ha publicado información en su sitio web que ayuda a sus clientes y al público a conocer cómo funciona.
Una entrada “Conceptos básicos de grabación” en el centro de atención al cliente de la compañía insta a los médicos a “asegurarse de seguir las pautas recomendadas por su organización para el consentimiento del paciente” e incluso proporciona un lenguaje de muestra que podría usarse en tales situaciones.
Abridge sugiere que los médicos podrían decir: “Voy a utilizar una herramienta que registra nuestra conversación para ayudarme a escribir mis notas clínicas, para poder concentrarme más en nuestra conversación y pasar menos tiempo en la computadora. ¿Le parece bien?”
La tecnología utiliza una aplicación instalada en el teléfono inteligente del médico para realizar la grabación, que dicta una lista de “mejores prácticas” que deben colocarse “entre usted y su paciente sin interrupción”. Abridge también dice en su sitio web que su tecnología es “100% compatible con HIPAA y utiliza las mejores prácticas de la industria para proteger la información del paciente”, señalando que los datos que recopila “siempre se almacenan a través de canales seguros” que cumplen con HIPAA, la Ley de Responsabilidad y Portabilidad del Seguro Médico de 1996, que evita la divulgación no autorizada de información del paciente.
Pero Abridge también insinúa la privacidad. Política Su sitio web señala que crea acuerdos de privacidad separados con cada uno de sus clientes, instruyendo a los pacientes a “ver el aviso de prácticas de privacidad de su proveedor para obtener información sobre cómo manejan su (información de salud protegida). Sharp enumera una privacidad. Política en su sitio web, aunque el documento tiene fecha del 14 de abril de 2003.
Abridge indica que cumple con la Ley de Privacidad del Consumidor de California y sitio web Dice que cumple con los requisitos de nivel dos de “Controles de organización y sistemas” desarrollados por el Instituto Americano de Contadores Públicos Certificados. Estas reglas especifican cómo la información digital debe mantenerse segura contra el acceso no autorizado, libre de corrupción y privada. Abridge indica que su cumplimiento de las reglas SOC 2 “ha sido verificado por un auditor independiente de seguridad y privacidad”.
un publico declaración Publicado en su sitio web en 2020, Abridge dijo que utilizó 10.000 horas de conversaciones transcritas entre médicos y pacientes para entrenar sus modelos de IA, y que estos datos “anonimizados” procedían de “pacientes totalmente informados y que dieron su consentimiento”. un separado declaración 2020 indica que toda investigación y desarrollo utiliza datos no identificados y que dicha información se “adquiere con el consentimiento del paciente”. Pero no está claro si la empresa utiliza conversaciones del mundo real enviadas desde sus clientes a los servidores de Abridge para su análisis y entrenar a futuras generaciones de modelos de la empresa.
La empresa no respondió a las solicitudes de comentarios sobre el asunto.
Los defensores de la privacidad están cada vez más preocupados acerca de El mundo de la IA en rápido movimiento a medida que ingresa a los espacios más sensibles del mundo.
Sarah Geoghegan, asesora legal principal del Centro de Información sobre Privacidad Electrónica en Washington, D.C., dice que exigir el consentimiento del paciente al grabar es bastante claro.
“Obviamente, la transparencia es un paso necesario, al igual que la divulgación y el consentimiento significativo”, dijo Geoghegan.
Y ese consentimiento, añadió, no debe obtenerse una sola vez. Debería estar disponible por sí solo, añadió, y no tener que tener en cuenta el enorme proceso de papeleo que los pacientes a menudo tienen que atravesar cuando visitan el consultorio.
“Debe ser un consentimiento que se pueda informar libremente y que pueda revocarse”, afirmó Geoghegan. “Una vez cada 10 años no es suficiente.”
El gran problema, añadió, será cuando el uso de la IA en la atención sanitaria pase de la simple replicación a la toma de decisiones. Mientras tanto, se ha observado que las compañías de seguros utilizan sistemas de inteligencia artificial para rechazar reclamaciones, una práctica que se volverá ilegal en 2025 por una nueva razón. la leyLa “Ley de Toma de Decisiones Médicas”, que exige que las determinaciones de necesidad médica las realice “únicamente un médico autorizado o un profesional de la salud autorizado capaz de evaluar las cuestiones clínicas específicas involucradas en los servicios de atención médica solicitados por el proveedor”.
“Creo que ahí es donde están la usabilidad y los límites de la tecnología”, dijo Geoghegan. “Para mí, un médico que hace todo el trabajo de un médico pero usa tecnología para tomar algunas notas es muy diferente de una situación que involucra IA generativa, donde un médico mantiene una conversación con un paciente y luego una herramienta de IA generativa diagnostica y señala y, ya sabes, hace esas cosas que pertenecen al médico”.
No parece que Abridge haya cruzado ese Rubicón en particular. La declaración pública de la compañía sobre su producto indica que el objetivo principal del sistema es documentar con precisión las conversaciones entre paciente y médico, pero los médicos deben revisar los datos resultantes y hacer las correcciones necesarias antes de agregarlos al registro médico oficial del paciente.
