OpenAI ha formado un consejo asesor para monitorear el bienestar de los usuarios y la seguridad de la IA, anunció la compañía esta semana. El grupo de ocho personas tendrá la tarea de establecer estándares para interacciones saludables de IA en todos los grupos de edad.
El anuncio vino acompañado de una X publicación El director ejecutivo, Sam Altman, dijo que la compañía había podido mitigar con éxito “problemas graves de salud mental” planteados por el uso de sus productos. Altman luego explicó que ChatGPT comenzaría a permitir más contenido para adultos, incluido contenido erótico, en los chats. OpenAI se enfrenta actualmente a su primera demanda por muerte por negligencia, tras las acusaciones de que ChatGPT contribuyó a la muerte por suicidio de un joven adolescente.
El último modelo de IA de Anthropic, Claude Haiku 4.5, duplica la velocidad y la seguridad
Los miembros del consejo incluyen académicos del Digital Wellness Lab del Boston Children’s Hospital y de la Digital Mental Health Clinic de Stanford, así como expertos en psicología, psiquiatría e interacción persona-computadora.
Velocidad de la luz triturable
“Seguimos siendo responsables de las decisiones que tomamos, pero continuaremos aprendiendo de este consejo, de la Red Global de Médicos, de los formuladores de políticas y más, a medida que desarrollemos sistemas avanzados de IA que respalden el bienestar humano”, escribió la compañía en un comunicado. Publicación de blog.
Este tweet no está disponible actualmente. Se está cargando o eliminando.
Este tweet no está disponible actualmente. Se está cargando o eliminando.
la semana pasada, YouGov Una encuesta realizada a 1.500 estadounidenses reveló que sólo el 11 por ciento está abierto a utilizar la IA para mejorar su salud mental. Sólo el 8 por ciento de los encuestados dijo que confía en la tecnología utilizada en este espacio.
En términos generales, los compañeros de IA generativa han generado serias preocupaciones entre los expertos en salud mental, incluida la creación de psicosis de IA entre los usuarios crónicos de compañeros de chatbot. Las empresas de inteligencia artificial continúan lanzando productos de salud mental Cada vez más americanos Recurrir a la IA para responder preguntas sobre salud mental y obtener apoyo de sustitutos digitales, a pesar de la falta de evidencia que demuestre su eficacia.
son reguladores federales investigación El papel de la IA generativa y los chatbots también en la creciente crisis de salud mental, especialmente entre los adolescentes. Varios estados han prohibido los chatbots impulsados por inteligencia artificial que se anuncian como asistentes terapéuticos. El mes pasado, el gobernador de California, Gavin Newsom, firmó varios proyectos de ley que buscan regular la IA y sus impactos sociales, incluido el mandato de informes de seguridad para las empresas de IA y protocolos que protegen a los usuarios menores de la exposición a contenido sexual. La próxima ley, SB 243, exige que las empresas instituyan un sistema para abordar las ideas suicidas, el suicidio y las autolesiones.
