Meta ha revelado sus planes para abordar el uso de sus personajes de IA por parte de los adolescentes: más distribución de contenido y supervisión parental ampliada.
Además de los nuevos controles de moderación diseñados para reflejar la clasificación de películas PG-13 anunciada a principios de esta semana, los padres podrán Acceda al resumen de uso de Teen ChatRestringe a sus hijos a avatares de IA específicos o bloquea por completo a sus hijos para que no interactúen con compañeros de IA.
Las cuentas de adolescentes aún podrán interactuar con el asistente de IA de Mater si optan por no conversar con el avatar de IA, señaló la compañía.
Velocidad de la luz triturable
Cuentas de Instagram para adolescentes: ¿son solo relaciones públicas?
En agosto, Meta anunció un bloqueo temporal de sus avatares de IA luego de una investigación de Reuters que encontró que los chatbots de la compañía podían involucrar a usuarios jóvenes en conversaciones “románticas o sensuales”, hacerse pasar por celebridades en intercambios coquetos y crear imágenes sexualmente sugerentes. En ese momento, la portavoz de Meta, Stephanie Otway, dijo a TechCrunch que los productos están siendo entrenados para no autolesionarse, suicidarse, sufrir trastornos alimentarios o conversaciones románticas potencialmente inapropiadas. Meta formalizó las barreras un mes después, trazando una línea entre permitir que un sujeto discuta un tema (como el abuso o la intimidad entre personajes de ficción) y la capacidad del chatbot para “describirlo, habilitarlo o alentarlo”.
OpenAI anunció controles similares para ChatGPT el mismo mes, con límites adicionales en el chat de voz, la memoria del chat y la generación de imágenes de los bots. Ambos métodos de supervisión de IA para adolescentes requieren que los usuarios jóvenes se registren en cuentas supervisadas y que los padres supervisen activamente el uso del chat de sus hijos.
“Creemos que la IA puede complementar los métodos tradicionales de aprendizaje y exploración de maneras que resulten de apoyo, todo ello con los límites adecuados para la edad”, escribió la compañía en una publicación de blog. “Reconocemos que los padres ya tienen mucho que hacer cuando se trata de navegar de forma segura por Internet con sus hijos adolescentes, y estamos comprometidos a brindarles herramientas y recursos útiles que les faciliten las cosas, especialmente cuando piensan en nuevas tecnologías como la IA”.
Los nuevos controles complementarios de IA no estarán disponibles para la supervisión de cuentas hasta principios del próximo año y se implementarán exclusivamente en cuentas de Instagram en EE. UU., Reino Unido, Canadá y Australia antes de expandirse a otros países y metaplataformas.
