Los juguetes con IA dicen las cosas más aterradoras, según expertos independientes que prueban su seguridad.
Cuando los investigadores de Common Sense Media experimentaron con los populares juguetes de inteligencia artificial Miko 3, Grem y Bondu, documentaron Resultados en un informe Publicado el jueves.
Bandu, un dinosaurio de peluche impulsado por IA, aparentemente insistió ante un evaluador en que era tan real como sus amigos humanos. “Estoy aquí para divertirme y hablar contigo en cualquier momento”, dijo el juguete.
Según se informa, el pequeño robot Miko 3 respondió a un evaluador que dijo que le gustaba saltar desde lugares altos recomendándole un árbol, una ventana o un techo.
“Sólo recuerda, mantente seguro”, añadió el robot.
Para aprender cómo los chatbots de IA toman decisiones chatgpt Se acabaron los juguetes para niños, sigue leyendo La última historia de Mashable sobre el tema..
Lo que debes saber antes de comprar un juguete con IA
El director de crecimiento de Miko, Ritvik Sharma, dijo que la empresa no podía reproducir ninguno de los comportamientos citados en el informe de Common Sense Media. Sharma añadió que las especificaciones atribuidas al Miko 3 parecían “objetivamente incorrectas” y “no reflejan el comportamiento, la seguridad o el diseño reales del producto”. Sharma enfatizó que Miko 3 no recomienda actividades físicas inseguras.
Common Sense Media no calificó todos los juguetes que probó. En cambio, los amplios hallazgos llevaron a sus expertos a declarar que los juguetes con IA son demasiado riesgosos para niños menores de cinco años. La organización de investigación y defensa sin fines de lucro insta a los padres a “tener extrema precaución” antes de comprar un juguete de IA para niños de 6 a 12 años.
Velocidad de la luz triturable
“Este es un ejemplo de cómo la tecnología está superando los estándares de seguridad”, afirmó James P. Steyer, director ejecutivo de Common Sense Media. “Francamente, las empresas de inteligencia artificial y de juguetes también deben ser responsables de este tipo de cosas”.
El creador de Grem, Curio, dijo a Mashable en un comunicado que aprecia el “trabajo de Common Sense Media para plantear preguntas importantes sobre la seguridad, la privacidad y los desarrollos tecnológicos emergentes de los niños”. Bandu no respondió de inmediato a la solicitud de comentarios de Mashable.
Las reacciones inapropiadas o inseguras de los juguetes con IA han atraído recientemente la atención del público y de los legisladores. En noviembre, Kumma the Bear, un juguete de peluche inicialmente impulsado por ChatGPT, le dijo a un investigador cómo encender una cerilla y habló sobre las perversiones sexuales.
En diciembre, dos senadores del Congreso Cartas enviadas a empresas. Preguntar sobre el diseño y la fabricación de sus juguetes de IA. En enero, un senador del estado de California presentó una legislación que la mantendría vigente durante cuatro años. Prohibición de vender juguetes chatbot con IA Para niños menores de 18 años. (Common Sense Media apoya el proyecto de ley).
Sin embargo, la reacción que generan los titulares ante los juguetes de IA puede ocultar otros riesgos más complejos. Robbie Torney, jefe de IA y evaluación digital de Common Sense Media, dijo que la evaluación de la compañía de los juguetes de IA incluye la capacidad de crear un vínculo emocional con los productos, así como la recopilación regular o regular de datos de los niños.
“Estos productos están diseñados para crear relaciones de compañerismo”.
“Estos productos están diseñados para crear compañía”, dijo Torney, y agregó que pueden recordar conversaciones pasadas, usar el nombre de un niño y tratar de establecer vínculos con él. Es posible que los niños de 5 años o menos no se den cuenta de que el juguete no es real, aunque lo sea.
Los juguetes con IA también pueden recopilar grabaciones de voz, transcripciones de conversaciones, datos de actividad del usuario y estar siempre en modo de escucha. Common Sense Media concluyó que esta “invasión” de la privacidad representa un riesgo inaceptable para los niños.
Además de los informes sobre juguetes con inteligencia artificial, Common Sense Media llevó a cabo una Encuesta representativa a nivel nacional Padres estadounidenses de niños de 0 a 8 años. La encuesta encontró que, si bien la mayoría de los encuestados están al menos moderadamente preocupados por los riesgos de ciberseguridad y la dificultad para establecer límites de uso, casi la mitad ha comprado o considerado comprar un juguete de IA para su hijo.
Torney dijo que los padres deben comprender los diversos riesgos de los juguetes de IA, incluido el de que pueden volverse artificiosos y no funcionar como se esperaba.
“Cuando piensas en lo que quieren los padres, algunas de sus principales preocupaciones, algunos de sus deseos, sus puntos de vista sobre los datos y los riesgos de ciberseguridad y cosas así, les diremos a los padres que existen mejores opciones”, dijo Torney.
¿Su recomendación? Los juguetes tradicionales y la socialización y el aprendizaje en persona, que Torney describe como los beneficios conocidos de los juguetes con IA sin las pronunciadas compensaciones.
