Una nueva e inquietante tendencia de chatbots de IA que intimidan a los niños e incluso los alientan a quitarse la vida tiene al gobierno australiano muy preocupado.
En declaraciones a los medios de comunicación el sábado, el ministro federal de Educación, Jason Clare, dijo que la inteligencia artificial estaba “sobrealimentando” el acoso.
“Los chatbots de IA ahora están acosando a los niños. No son niños los que acosan a los niños, son los que acosan a los niños, los insultan, los golpean, les dicen que son unos perdedores… les dicen que se suiciden. No se me ocurre nada más horrible”, dijo Claire.
Crece la preocupación por el uso de la IA por parte de los adolescentes.
En California, los padres de Adam Raine, de 16 años, están demandando a OpenAI, la compañía detrás de la popular plataforma ChatGPT, alegando que alentó a su hijo a quitarse la vida.
Luego de que la familia Rain presentara una denuncia, la agencia emitió un comunicado. admitir Modela fallas al dirigirse a personas con “angustia emocional y psicológica grave” y dice que está trabajando para mejorar los sistemas para “reconocer y responder a los síntomas de angustia emocional y psicológica y conectar a las personas con la atención, guiados por aportes de expertos”.
Regístrese para recibir: correo electrónico de noticias de última hora de AU
“La idea de que esto pueda ser una aplicación que te diga que te mates y que niños lo hayan hecho en el extranjero me aterroriza”, dijo Claire. No identificó ningún chatbot de IA específico.
El sábado, el ministro anunció una serie de nuevas medidas contra el acoso, entre ellas exigir a las escuelas que actúen contra los incidentes de acoso en un plazo de 48 horas y que los profesores reciban formación especializada. Estas iniciativas forman parte de un nuevo plan nacional para acabar con el acoso
Los ministros de educación de los estados y territorios respaldaron recomendaciones clave del Plan Nacional Anti-Bullying después de una reunión en Gold Coast el viernes.
Ahora que el gobierno federal aporta 5 millones de dólares en recursos para profesores, padres y estudiantes, la formación y las herramientas adicionales para afrontar el acoso ayudarán a actuar antes.
También habrá 5 millones de dólares para una campaña de concientización nacional.
La Revisión Rápida Anti-Bullying establece que medidas disciplinarias como la suspensión o expulsión “pueden ser apropiadas en algunas circunstancias” para los niños que acosan.
Sin embargo, el mejor resultado suele implicar tomar medidas para reparar la relación y abordar las causas subyacentes del comportamiento dañino, dice.
Uno de cada cuatro estudiantes entre el cuarto y el noveno año informó haber sido acosado cada pocas semanas o más, según la revisión. Los niños en edad escolar o adolescentes que han sido víctimas de acoso escolar tienen más probabilidades de experimentar problemas de salud mental y bienestar que sus pares.
El ciberacoso también prevalece entre los jóvenes y aumentó en más de un 450% entre 2019 y 2024, según informes al Comisionado de eSafety.
Una motivación detrás de la próxima prohibición de las redes sociales para menores de 16 años por parte del gobierno federal, que entrará en vigor el 10 de diciembre, es prevenir el acoso en línea.
En Australia, servicios de apoyo en crisis Línea de vida es 13 11 14. En el Reino Unido e Irlanda, samaritanos Se puede contactar con él llamando al teléfono gratuito 116 123 o enviando un correo electrónico a jo@samaritans.org o jo@samaritans.ie. En EE. UU., puedes llamar o enviar mensajes de texto 988 Línea de vida de crisis y suicidio 988 o chatear al 988lifeline.org. Otras líneas de ayuda internacionales están disponibles en amigos.org
