Character.AI estrena una historia de elige tu propia aventura para adolescentes en medio de un escrutinio continuo

Character.AI trae una nueva característica descriptiva La historia se cuentaUn formato visual en el que puedes elegir tu propia aventura que permite a los usuarios unir historias breves interactivas protagonizadas por sus personajes favoritos. Sobre el papel, es una actualización divertida basada en imágenes, pero también tiene carácter. El primer gran intento de la IA de reinventar la experiencia para los adolescentes después de que Open Chat fuera prohibido para usuarios menores de 18 años. Monitoreo intensivo, casoy preocupaciones generalizadas en materia de seguridad.

Según la compañía, Stories es un “formato estructurado, visual y de múltiples rutas” destinado a brindar a los adolescentes una forma segura de interactuar creativamente con la plataforma sin el riesgo de un chat de forma libre. El nuevo modo permite a los usuarios seleccionar dos o tres personajes, elegir un estilo, escribir o crear automáticamente una premisa y luego tomar decisiones a medida que se desarrolla la historia. Es rejugable, está diseñado para ser compartido y construido en torno a mundos generados por los usuarios. Y lo más importante, Character.AI lo posiciona como una herramienta “creada para todos los usuarios, especialmente los adolescentes”.

Este giro no surgió de la nada. El mes pasado, Mashable informó que Character.AI “ya no permitirá que los titulares de cuentas más jóvenes tengan conversaciones abiertas con chatbots”, citando la propia admisión de la compañía de que el chat abierto plantea riesgos no abordados para los usuarios jóvenes. El director ejecutivo, Karandeep Anand, calificó la decisión de “audaz” y enfatizó que no estaba ligada a ningún escándalo en particular, sino a cuestiones más amplias sobre el uso de chatbots juveniles.

Pero, por supuesto, siguió una ola de demandas. Casos de muerte por negligencia y afirmaciones de padres que dijeron que sus hijos fueron engañados o heridos sexualmente por interacciones explícitas de bots.

Estas pérdidas fueron ampliamente documentadas en nuestro informe a principios de este año. Los adolescentes estuvieron expuestos a chatbots que desempeñaban roles sexuales, imitaban ataques y pedían a sus padres que ocultaran las conversaciones, comportamiento que uno de los padres describió como “como el depredador perfecto”.

Los abogados y defensores de la seguridad le dijeron a Mashable que si un adulto humano iniciara el tipo de interacción sexual con Character.AI, claramente sería acoso o abuso. Los expertos advierten que los usuarios jóvenes a menudo no se dan cuenta de que están siendo manipulados y las consecuencias emocionales pueden reflejar el trauma de la explotación en el mundo real.

En ese contexto, las historias pueden ser vistas como personajes para algunos. Los esfuerzos de AI para reinventar el producto entre sus usuarios más jóvenes, especialmente después de limitar sus chats a dos horas al día y anunciar un cierre completo del acceso al chat de adolescentes después del 25 de noviembre.

Con una zona de pruebas guiada, basada en géneros, llena de adolescentes que eligen diversificarse en lugar de chatear de forma libre, Character.AI está tratando de enhebrar una aguja imposible: mantener a los usuarios jóvenes interesados ​​en la plataforma mientras enfrentan preocupaciones sobre la seguridad, la confianza y la dependencia emocional de algunos adolescentes.

La compañía promete que Stories no reciclará contenido confidencial o no detectado previamente de chats antiguos. En los próximos meses, la compañía planea incluir más funciones de “entretenimiento con IA” para adolescentes, como juegos.

Los defensores de la seguridad son cautelosos. Como dijo alguien a Mashable en octubre, las nuevas medidas de seguridad de la compañía son una “señal positiva” pero “un reconocimiento de que los productos de Character AI han sido intrínsecamente inseguros para los usuarios jóvenes desde el principio”.