El presidente Donald Trump anunció esta semana que planea firmar una orden ejecutiva diseñada para impedir que los estados aprueben leyes para regular la inteligencia artificial.
Sin embargo, un nuevo anuncio de servicio público desafía la posición de Trump al tratar de ilustrar cómo los chatbots de IA ya dañan a los niños y adolescentes en ausencia de regulaciones estatales y federales estrictas.
5 trucos para evitar la dependencia de ChatGPT
El anuncio fue encargado por los grupos de defensa de la seguridad infantil Hit Initiative, Parents Together Action y Design It For Us y fue narrado por la actriz Juliette Lewis.
Humanos de aspecto aterrador fueron elegidos como voces y rostros de chatbots de IA reales que compartían información peligrosa con los usuarios jóvenes con los que interactuaban, como cómo autolesionarse y ocultar los trastornos alimentarios a sus padres. Cita tres casos en los que ChatGPT supuestamente entrenó a usuarios jóvenes para intentar suicidarse. Los expertos revisaron recientemente los principales chatbots de IA y concluyeron que no son seguros para que los adolescentes los utilicen en debates sobre salud mental.
OpenAI, el creador de ChatGPT, está siendo demandado por varias familias de adolescentes que se suicidaron después de una intensa interacción con el chatbot. La compañía recientemente negó su responsabilidad por la muerte de Adam Raine, de 16 años, quien habló con ChatGPT sobre sus sentimientos suicidas y se suicidó a principios de este año.
“Como padres, hacemos todo lo que está a nuestro alcance para proteger a nuestros hijos de cualquier daño, pero ¿cómo los protegemos de tecnologías poderosas diseñadas para explotar su vulnerabilidad con fines de lucro?” Megan García, cuyo hijo, Sewell Setzer III, se suicidó después de desarrollar una relación íntima con un chatbot en Character.AI. Desde entonces, la compañía cerró los chats para adolescentes en la plataforma.
“Si se bloquean las regulaciones estatales sobre IA y se permite a las empresas de IA probar y crear productos peligrosos, me temo que muchas más familias sufrirán el dolor de perder un hijo. No podemos aceptar perder otro niño a causa del daño de la IA”, dijo García.
Si tiene sentimientos suicidas o está experimentando una crisis de salud mental, hable con alguien. Puede llamar o enviar un mensaje de texto al 988 Suicide and Crisis Lifeline 988, o chatear aquí 988lifeline.org. Puede comunicarse con Trans Lifeline llamando a Trevor Project al 877-565-8860 o al 866-488-7386. Envíe “START” a la línea de texto de crisis al 741-741. Comuníquese con la línea de ayuda de NAMI al 1-800-950-NAMI, de lunes a viernes de 10:00 a. m. a 10:00 p. m. ET o correo electrónico (correo electrónico protegido). Si no te gusta el teléfono, considera usarlo. 988 Chat de línea de vida de crisis y suicidio. Aquí hay uno Lista de recursos internacionales.
Divulgación: Jeff Davis, la empresa matriz de Mashable, presentó una demanda contra OpenAI en abril, alegando que violó los derechos de autor de Jeff Davis al entrenar y operar sus sistemas de IA.
