Google y Character.AI, que tienen Trabajamos juntos en chatbots de IAAcordado Cinco casos resueltos Character.AI en cuatro estados relacionados con menores perjudicados por interacciones con chatbots.
Aunque el acuerdo no es definitivo, incluirá la resolución del caso Florida, Texas, Nueva York Y Colorado Sobre el uso de los servicios de Chatbot. En un caso de alto perfil, un adolescente de Orlando de 14 años, Sewell Setzer III, Murió por suicidio Después de interactuar con uno de los chatbots de Character.AI en febrero de 2024, la madre del adolescente, Megan L. García, presentó una demanda en el Tribunal de Distrito de Florida, EE. UU., ese mismo año.
No se pierda nuestro contenido tecnológico imparcial y reseñas basadas en laboratorio. Añadir CNET Como fuente preferida de Google.
Un representante de Google no respondió de inmediato a una solicitud de comentarios. Un representante de Character.AI citó la presentación estatal, pero no pudo comentar sobre el acuerdo.
Creó Character.AI el año pasado Grandes cambios en su plataformaLos niños menores de 18 años tienen prohibido participar en chats abiertos con sus chatbots. En cambio, los adolescentes pueden Crea historias con personajes de IA Utilizando herramientas de la empresa.
Antes del cambio del año pasado, el director ejecutivo de Character.AI, Karandeep Anand, dijo a CNET: “Hay mejores formas de atender a los usuarios adolescentes… No tiene por qué parecerse a un chatbot”.
La empresa ha comenzado a utilizar un software de detección de edad para determinar quién tiene 18 años o más.
Google y Character.AI no son los únicos gigantes tecnológicos que enfrentan críticas y acciones legales por los chatbots y sus interacciones con niños. OpenAI también ha realizado cambios en su popular ChatGPT Casos de suicidio y pérdida de hijos.
(Divulgación: Jeff Davis, la empresa matriz de CNET, presentó una demanda contra OpenAI en abril, alegando que violó los derechos de autor de Jeff Davis al entrenar y operar sus sistemas de IA).
