ChatGPT ahora funciona con cautela, pero los chatbots pueden volverse más vulnerables para fin de año.
En las últimas semanas, el chatbot generativo de IA ha estado trabajando bajo restricciones algo más estrictas, ya que OpenAI ha tratado de abordar las preocupaciones de que no está manejando bien los problemas sensibles de salud mental. Pero el director ejecutivo Sam Altman Publicado en X La agencia dijo el martes que aliviará algunas de esas restricciones porque “ha podido mitigar problemas graves de salud mental”.
Altman dice un Publicación de seguimiento Se espera que los cambios del miércoles den prioridad a la protección de los adolescentes y a “tratar a los usuarios como adultos”. Todos los usuarios tendrán herramientas integradas en los modelos para abordar temas delicados y afrontar crisis de salud mental, pero los usuarios adultos tendrán más libertad para usar ChatGPT sin ventanas emergentes preventivas ni redireccionamiento de modelos.
“Ciertamente no se aplica en todos los ámbitos: por ejemplo, todavía no permitiremos cosas que dañen a otros, y trataremos a los usuarios que sufren problemas de salud mental de manera muy diferente a los usuarios que sufren problemas de salud mental”, dijo Altman. “Intentaremos ayudar a los usuarios a alcanzar sus objetivos a largo plazo sin ser paternalistas”.
(Divulgación: Jeff Davis, la empresa matriz de CNET, presentó una demanda contra OpenAI en abril, alegando que violó los derechos de autor de Jeff Davis al entrenar y operar sus sistemas de IA).
También se esperan otros cambios. Altman dijo que la compañía podría aprobar “Erotica” para usuarios adultos verificados, ya que implementa un sistema de “regulación de edad”, o contenido restringido por edad, en diciembre. El contenido para adultos es parte de la política de la compañía de “tratar a los usuarios adultos como adultos”, dijo Altman.
La publicación de Altman anunció una nueva versión de ChatGPT en las próximas semanas, con una personalidad que se comporta como el modelo GPT-4o de la compañía. Después de que la compañía reemplazó el 4o con el impersonal GPT-5 a principios de este año, los usuarios de chatbot se quejaron de que la nueva versión carecía de la personalidad atractiva y divertida de los modelos de chatbot anteriores.
“Si quieres que tu ChatGPT responda de una manera muy humana, o use un montón de emojis, o actúe como un amigo, entonces ChatGPT debería hacerlo (pero sólo si así lo deseas, porque no estamos maximizando el uso)”, escribió Altman.
No se pierda nuestro contenido tecnológico imparcial y reseñas basadas en laboratorio. Añadir CNET Como fuente preferida de Google.
Después de que OpenAI fuera demandado por padres que acusaban a ChatGPT de contribuir al suicidio de su hijo adolescente, la compañía impuso una serie de nuevas restricciones y cambios, incluidos controles parentales, advertencias sobre comportamientos riesgosos y una versión del chatbot para adolescentes. Durante el verano, OpenAI implementó recordatorios de pausa que alientan a las personas a dejar de chatear con bots ocasionalmente.
El martes, la compañía también anunció la creación de una Consejo de expertos en IA Y Marte, incluidos algunos con experiencia en psicología y comportamiento humano.
Se produce mientras los legisladores y reguladores continúan haciendo sonar la alarma sobre los riesgos que las herramientas de inteligencia artificial representan para los humanos, especialmente los niños. El lunes, el gobernador de California, Gavin Newsom, promulgó nuevas restricciones a los chatbots complementarios de IA. El mes pasado, la Comisión Federal de Comercio abrió investigaciones sobre varias empresas de inteligencia artificial, incluida OpenAI.
