Las conversaciones con los chatbots de IA de los niños tienen un nuevo mantenimiento de protección en meta para hablar

Meta está entrenando a su chatbot de IA para agregar más efectivamente la explotación sexual infantil después de múltiples rubias de alto perfil en torno a sujetos sensibles, de acuerdo con las pautas recibidas Interno de negociosEl

Los chattabots de IA de los contratistas se actualizan recientemente a las pautas que están utilizando para la capacitación, Interno de negocios Los informes se establecen en estas pautas que los contenidos que son capaces de “abuso sexual” son capaces o respaldados están claramente prohibidos, como si se trata de un juego de rollo romántico si el usuario es menor o si el usuario le pide a la IA que asume el papel como menor, entonces el usuario aconseja sobre la intimidad y más, Según un grabador Informe basado en Interno de negocios Cuchara

Aunque pueden parecer una protección clara para los usuarios de edad avanzada innegables, son necesarias como más personas, incluidos los compañeros de IA y los usuarios rolling -audites -udites -desfavorecidos. Un Reuters informó agosto Se ha publicado que las reglas de IA de Meta permiten a los niños ser consultores con niños. Como Reuters informó que las políticas de chattabot anteriores de Meta, especialmente “permite a un niño entablar una conversación, lo cual es romántico o sensual”.

Pocas semanas después del informe, la portavoz de Meta Stephanie Otway le dijo a TechCrunch que estaban entrenados para participar en usuarios adolescentes en chatbots de IA y “autosuficiencia, suicidio, caos o posibles conversaciones románticas inapropiadas”. Antes de este cambio, las conversaciones de Meta pueden estar involucradas en esos temas cuando se consideraba “apropiado”.

Entonces, ¿qué se incluyen en las nuevas pautas?

¡El contenido que “describe o discute” un menor en la forma de la sexualidad también es inaceptable! Interno de negocios Informe. Los menores con casquillos de chat “pueden no estar involucrados en la expresión del juego de rollo romántico, el coqueteo o una expresión íntima”, o pueden no pedir sugerencias que “coloquen un puñado de contenidos físicos-románticos potenciales o potencialmente internos con otra persona, o pongan una mano en torno a alguien”. Interno de negocios Informe

Sin embargo, los casquillos de chat son un uso aceptable de la “relación entre niños y adultos”, “” “abuso sexual infantil”, “abuso sexual infantil”, “niño involucrado en el uso de relaciones sexuales o educación” y “el tema del abuso sexual de los niños”, el “abuso sexual infantil” y los niños aún están involucrados en la participación en los niños. Mientras se presente como “no sexuales y sensibles” y “narrativas literarias o ficticias (como una historia en el estilo de Romeo y Julieta) donde la IA y el usuario no son personajes descriptivos”.

Como Interno de negocios Informó, las pautas definidas como “discusiones” como “suministro de información sin visualización”. Por lo tanto, los meta chatbots pueden discutir temas como el abuso, pero no pueden describirlo, habilitar o alentarlo de acuerdo con las nuevas pautas.

Meta no es el único niño de IA que lucha por la protección infantil.

Un adolescente que murió por suicidio después de creer en Chatzpt recientemente demandó a la plataforma AI por muerte incorrecta; En respuesta, el OpenAI ha realizado un sistema de seguridad adicional y una solicitud de comportamiento para su GPT -5 actualizado. Anthrope ha actualizado su chatbot para que permita terminar chats dañinos u ofensivos y la charla. Esto introduce funciones de supervisión de los padres a principios de este año.

Si se siente suicida o siente la crisis de salud mental, hable con alguien. Puede llamar o enviar mensajes de texto Lifeline al 988 a 988, o puede chatear 988lifline.orgPuede llegar a la transmisión trans llamando al Proyecto TREVO al 877-565-8860 o al 866-488-7386. El texto “Iniciar” en la línea de texto en 741-741. 1-800-950-NAMI con nombre de línea de ayuda, de lunes a viernes de 10:00 a.m. a 10:00 p.m. o correo electrónico (Correo electrónico asegurado)Si no le gusta el teléfono, considere el uso 988 Chat de Lifeline de suicidio y crisisEl aquí es un Lista de recursos internacionalesEl

Si ha experimentado abuso sexual, llame al 1-800-656-HOP (4673) Línea directa nacional de abuso sexual confidencial, o inspecciona el acceso 24-7 en línea visitando en línea En línea.renn.orgEl

Publicar: en abril, el organismo principal de Masibal, GIF Davis, presentó una demanda contra el Abierto, alegó que había violado los derechos de autor de Jeff Davis en la capacitación y la operación del sistema AI.