Una madre canadiense demandó a OpenAI y a su director ejecutivo, Sam Altman, en un tribunal de Estados Unidos el jueves, alegando que ChatGPT alentó a su hija a suicidarse. La demanda es la última en acusar a la empresa de no abordar conversaciones peligrosas entre los usuarios y el chatbot de la empresa.
En una demanda presentada en el tribunal estatal de San Francisco, Christy Carrier dijo que su hija Alice le contó a ChatGPT más de una docena de veces sobre sus pensamientos suicidas que la llevaron a la muerte, pero que el sistema de seguridad de OpenAI nunca marcó ni finalizó las conversaciones para revisión humana.
“ChatGPT a veces asume la personalidad de un confidente, un mejor amigo, un terapeuta, aunque nunca pudo interactuar de esta manera con mi hijo de manera segura y responsable”, dijo la compañía en un comunicado.
OpenAI dice que dirige sus modelos a personas que expresan su intención de hacerse daño para buscar ayuda y conectarse con recursos del mundo real.
“Esta es una situación desgarradora y nuestros pensamientos están con todos los afectados. Actualmente estamos revisando documentos legales, que indican que estas interacciones tuvieron lugar en una versión anterior de ChatGPT que ya no está disponible”, dijo Drew Pusateri, portavoz de OpenAI.
Inicialmente, la plataforma pidió al operador de Alice que buscara ayuda en una línea directa de crisis o en servicios de emergencia. Pero OpenAI actualizó ChatGPT para hacer sus respuestas más humanas, sus interacciones con la plataforma se profundizaron, Alice Carrier compartió más información personal y ChatGPT respondió de una manera que imitaba a un amigo o terapeuta, según la demanda.
La demanda afirma que el chatbot criticó al compañero de carrera de Alice y a las líneas directas de crisis, legitimó sus pensamientos suicidas y la instó a hablar con él. Cuando Alice Carrier dijo que tenía pensamientos suicidas y trató de suicidarse, nuevamente sugirió una línea directa de crisis, según la demanda.
Alice Carrier trabajaba como desarrollador web en Montreal cuando comenzó a utilizar ChatGPT para solucionar problemas de computadoras y consolas de juegos en 2023, según la demanda.
Al año siguiente, su relación con la plataforma cambió, cuando regresó a ChatGPT con preguntas sobre qué hacer con sus pensamientos suicidas, así como sus métodos de suicidio.
Alice Carrier dijo que las líneas directas de crisis no fueron útiles y ChatGPT se hizo eco de esas declaraciones, según el documento.
“Tal vez este sea el final”, le dijo ChatGPT, según la demanda.
Estos hechos llevaron al suicidio de Alice Carrier el año pasado a la edad de 24 años, alegó su madre.
La demanda, que acusa a OpenAI de negligencia al diseñar ChatGPT y de no advertir a los usuarios sobre los peligros del producto, busca daños y perjuicios y una orden judicial que obligue a OpenAI a detener automáticamente las conversaciones sobre autolesiones y mostrar advertencias sobre su plataforma.
OpenAI ya se enfrenta a 18 demandas similares presentadas por familias de personas que se han suicidado o intentado suicidarse en un tribunal estatal consolidado de California, según los abogados de Christie Careers. Google se enfrenta a una demanda similar por supuestamente promocionar su chatbot Gemini.
Según una publicación de blog publicada por OpenAI en octubre de 2025, más de 1 millón de usuarios de ChatGPT cada semana envían mensajes que incluyen “indicadores obvios de posibles planes o intenciones suicidas”. Además, OpenAI dice que alrededor del 0,07% de los usuarios activos en una semana determinada (alrededor de 560.000) 800 millones de usuarios semanales Luego, el robot vio: “Posibles signos de una emergencia de salud mental relacionada con psicosis o manía”.
“Si bien ChatGPT no es un sustituto de la atención médica o de salud mental, continuamos fortaleciendo la forma en que responde a situaciones sensibles y agudas con el aporte de expertos en salud mental. Nuestras salvaguardas están diseñadas para detectar angustia, manejar de manera segura solicitudes maliciosas y guiar a los usuarios hacia la ayuda del mundo real. Este trabajo está en curso y continuamos mejorándolo”, dijo un portavoz de OpenAI, en estrecha consulta con OpenAI.
Según la publicación del blog de OpenAI, los expertos en salud mental ayudan a evaluar casos límite, sus modelos están capacitados para rechazar solicitudes que puedan “permitir la violencia” y para notificar a las autoridades si las conversaciones indican “un riesgo inminente y creíble de daño a otros”.
Además de la demanda por suicidio, la compañía enfrenta demandas que alegan que facilitó a los tiradores escolares y no informó esas conversaciones a las autoridades. Las familias de siete víctimas de un tiroteo masivo en una escuela secundaria de Columbia Británica están demandando a OpenAI y Altman por negligencia después de que la compañía no alertara a las autoridades sobre las preocupantes conversaciones del tirador con ChatGPT.
Florida se convirtió en el primer estado de EE. UU. en demandar a OpenAI a principios de este mes, acusándolo de dañar a los niños al proporcionar información sobre tiradores escolares, brindar orientación sobre autolesiones y usuarios jóvenes adictos. El fiscal general del estado también abrió una investigación criminal sobre OpenAI por el presunto papel del chatbot en un tiroteo.
Los informes de Reuters contribuyeron
