Abierto AI Última información publicada ¿Con qué frecuencia los usuarios de ChatGPT muestran signos potenciales de una emergencia de salud mental? Según la empresa, alrededor del 0,07% de los usuarios activos en una semana determinada presentan comportamientos asociados con manía, psicosis o pensamientos suicidas.
Si bien OpenAI describe estos sucesos como “extremadamente raros”, la imagen ha llamado la atención debido al enorme número de usuarios semanales de ChatGPT. Esto significa que incluso un pequeño porcentaje puede traducirse en cientos de miles de personas afectadas.
Para combatir esto, OpenAI ha desarrollado una importante actualización de seguridad para ChatGPT, entrenando su último modelo GPT-5 para reconocer y responder mejor a signos de angustia emocional, locura o pensamientos suicidas. La compañía dice que la actualización reduce las respuestas inseguras o incompletas en casos clave de salud mental hasta en un 80%.
No sólo eso; La compañía está trabajando con una red global de más de 170 psiquiatras, psicólogos y médicos de atención primaria para mejorar la forma en que los usuarios de ChatGPT responden a posibles signos de crisis. Los expertos ayudaron a desarrollar “respuestas ideales” y calificaron qué tan bien el modelo redujo las conversaciones sensibles.
Los resultados, según OpenAI, muestran un progreso mensurable. En situaciones difíciles que implican autolesión o suicidio, el nuevo modelo GPT-5 produjo un 52% menos de respuestas no deseadas que el GPT-4o. Para las conversaciones que sugerían psicosis o manía, el cumplimiento de las normas de seguridad mejoró en un 65%, mientras que los síntomas de dependencia emocional excesiva de la IA redujeron el comportamiento no deseado en un 80%.
Los hallazgos se producen cuando OpenAI enfrenta demandas, una de las cuales El caso de California Donde los padres alegaron que ChatGPT alentó a su hijo adolescente a suicidarse. La compañía dijo que se está tomando el asunto en serio y continúa mejorando su seguridad.
En su última actualización de seguridad, ChatGPT ha sido capacitado para redirigir conversaciones de alto riesgo a modelos más seguros, abriéndose en ocasiones en una nueva ventana de chat para un mejor manejo. Puedes conocer más sobre los resultados. aquí.
Rishabh Upadhyay
Rishazh es un escritor de tecnología que ha escrito profesionalmente durante más de cuatro años y le apasiona Android, Windows y todo lo relacionado con la tecnología. Inicialmente se unió a Windows Report como periodista tecnológico y ahora asume el cargo de editor de noticias. Cuando ella no está rompiendo el teclado, tú le estás cocinando o escuchando música o podcasts.
Los lectores ayudan a respaldar los informes de Windows. Es posible que recibamos una comisión si compra a través de nuestros enlaces.
Lea nuestra página de publicaciones para saber cómo puede ayudar a mantener el equipo editorial de Windows Report. Leer más
