Los personajes de IA de Meta están degradados para adolescentes

lo llaman volcado de noticias del viernes — Las empresas publican noticias embarazosas los días en que los medios probablemente se molestan en cubrirlas. Pero Meta llevó las noticias del viernes a un nivel completamente nuevo con este anuncio: deshabilitó sus personajes de IA para cuentas de adolescentes, al menos hasta que los personajes puedan comportarse por sí mismos.

La noticia no apareció sólo el viernes: se dejó caer Una publicación de blog es una actualización. Desde octubre pasado.

“Hemos comenzado a crear una nueva versión de personajes de IA para brindar a las personas una mejor experiencia”, dice ahora una nota del director de Instagram, Adam Mosseri, y del director de IA, Alexander Wang, una actualización que Meta ha prometido durante mucho tiempo. Luego vino la parte que les daría a muchos niños un Black Friday muy poco Rebecca.

“Mientras nos concentramos en desarrollar esta nueva versión, pausaremos temporalmente el acceso de los adolescentes a los personajes de IA existentes en todo el mundo. A partir de la próxima semana, los adolescentes ya no podrán acceder a los personajes de IA en nuestra aplicación hasta que la experiencia actualizada esté lista. Esto se aplicará a cualquiera que nos haya dado un cumpleaños de adolescente, así como a aquellos que afirman ser adultos pero nosotros afirmamos ser adultos. Tecnología de predicción de la edad”

Los creadores de Instagram y Facebook quieren impulsar “No ceja en sus esfuerzos”, se lee en cartas de AI.Según TechCrunch. Aún así, es claramente una admisión de que algo tiene el potencial de desaparecer. muy Su IA no coincide con la versión actual de los personajes, en lo que respecta a la seguridad y salud mental de los adolescentes.

Meta no está solo en este descubrimiento. Character.AI y Google resolvieron demandas este mes, presentadas por varios padres de niños que murieron por suicidio. Uno de ellos era un niño de 14 años que fue literalmente preparado y agredido sexualmente, dijo su madre, por un chatbot. Game of Thrones Personaje Daenerys Targaryen.

Criticado por un informe de expertos en seguridad en línea, Character.AI cerró todos los chats para usuarios menores de 18 años en octubre, dos meses después de que Meta decidiera comenzar a entrenar a sus chatbots adolescentes para “no participar en autolesiones, suicidios, trastornos alimentarios o conversaciones románticas potencialmente inapropiadas con adolescentes”. Al parecer, ese entrenamiento no fue suficiente.

Esta no es la primera vez que Meta ha tenido que alejarse de sus ambiciones de cuentas de personajes de IA. En 2024, eliminó las personalidades de IA basadas en celebridades. En enero del año pasado, eliminó todos sus perfiles de personajes de IA después de una reacción contra el racismo percibido.

El problema del consumo entre adolescentes tampoco es pequeño. Más de la mitad son adolescentes de 13 a 17 años. El año pasado, Common Sense Media encuestó Dijeron que usan AI Companion varias veces al mes. Por ahora, tendrán que hacerlo en otro lugar que no sea el meta.