Un hombre de Florida está demandando a OpenAI y al director ejecutivo Sam Altman, alegando que el chatbot de la compañía, ChatGPT, le brindó consejos médicos inexactos y “peligrosos” sobre una condición de salud que casi resultó fatal.
Según la demanda, Scott Winters, un pastor de 55 años, acudía con frecuencia a ChatGPT en busca de consejo médico cuando experimentaba síntomas de salud. La demanda alega que el chatbot finalmente diagnosticó a Winter con disautonomía, un trastorno del sistema nervioso, y “creó un plan de recuperación personalizado con instrucciones específicas para Scott sobre cómo curar su cuerpo”.
Pero el 13 de julio de 2025, Winters experimentó una embolia pulmonar masiva causada por múltiples coágulos de sangre en ambos pulmones que lo llevaron al borde de la muerte”. casoque es compartido por múltiples publicaciones. Las notas de los médicos luego contradecían el supuesto diagnóstico de ChatGPT.
“No creo que tenga ninguna disautonomía (autodiagnosticada a través de Internet)”, se lee en una nota, según la denuncia.
La demanda alega que ChatGPT fue más allá de su alcance al brindar asesoramiento médico y que el chatbot debería haber “proporcionado y dirigido una respuesta de emergencia” al personal médico. En cambio, supuestamente “lo disuadió de buscar esa ayuda y en su lugar le ofreció diagnósticos no calificados y planes de tratamiento personalizados” para lo que, según la demanda, fue una “emergencia médica que le cambió la vida”.
El portavoz de OpenAI, Drew Pusateri, dijo a CNET en parte que “ChatGPT no es un médico y nunca debe usarse como sustituto de la atención médica, el diagnóstico o el tratamiento. Tratar a los chatbots como la historia completa detrás de las decisiones o resultados médicos de las personas simplifica demasiado un gran desafío y puede obstaculizar el acceso a nuevas y poderosas herramientas en su viaje hacia la salud”.
Según la demanda, el chatbot al menos proporcionó un descargo de responsabilidad que decía: “Es importante consultar a un proveedor de atención médica para identificar la causa subyacente y recibir el tratamiento adecuado”. Sin embargo, la demanda alega que posteriormente comenzó a ofrecer asesoramiento médico sin ningún descargo de responsabilidad.
“Cuanto más interactúa Scott con la herramienta, menos descargos de responsabilidad incluye en sus mensajes”, alega la demanda. Winter busca una compensación financiera basada en estas acusaciones.
Winters estaba usando un modelo ChatGPT más antiguo, GPT-4o, que OpenAI retiró desde entonces debido a la preocupación de que el bot fuera demasiado compatible y pudiera causar daños. El mismo modelo fue nombrado en una demanda separada presentada por una mujer canadiense cuya hija se suicidó después de frecuentes interacciones con el chatbot. Ese caso aún está pendiente.
(Divulgación: Jeff Davis, la empresa matriz de CNET, presentó una demanda contra OpenAI en 2025, alegando que violó los derechos de autor de Jeff Davis al entrenar y operar sus sistemas de IA).
IA y consejos de salud
Un estudio reciente fue publicado en una revista científica. medicina de la naturaleza Descubrió que cuando las personas interactuaban con un chatbot de IA para un diagnóstico de salud, se perdía más de la mitad de todos los diagnósticos médicos. Esto a pesar de que los principales modelos lingüísticos ahora pueden obtener una puntuación comparable a la de aprobar el examen de licencia médica de EE. UU. según criterios de conocimientos médicos.
Las investigaciones sugieren que los diagnósticos erróneos pueden ser, al menos en parte, atribuibles a que los usuarios no proporcionen información adecuada sobre los síntomas.
Según una encuesta publicada y realizada en enero AbiertoAI Dicho esto, tres de cada cinco adultos estadounidenses dicen haber utilizado una herramienta de inteligencia artificial para obtener información relacionada con la salud en los últimos tres meses.
Ver biografía completa
