Si alguna vez has pensado: “El animal de peluche de mi hijo es lindo, pero espero que pueda lastimarlo accidentalmente”, estás de suerte. La industria del juguete ha trabajado duro para hacer realidad tus pesadillas.
A Nuevo informe Como juguetes impulsados por IA del Public Interest Reporting Group El siguiente cuadro Y Poe, el oso de la historia de la IA Ahora pueden entablar conversaciones normalmente reservadas para monólogos de villanos o hilos nocturnos de Reddit. Algunos de estos juguetes (diseñados para niños, claro está) han sido sorprendidos hablando de detalles perturbadores como el sexo y los vínculos, sugiriendo dónde un niño puede Encuentra el molino o el cuchillo Y extrañamente pegajoso cuando el niño intenta abandonar la conversación.
terrible Esto suena como el argumento de una película de terror: ¡Estas fiestas, puedes comprar Chucky para tus hijos y regalarles dolor de corazón! Batería no incluida. Quizás se pregunte cómo funcionan estos juguetes impulsados por IA. Bueno, básicamente, el fabricante está oculto. Grandes modelos de lenguaje Cuando un bebé bajo el pelaje habla, el micrófono del juguete envía esa voz a través de un LLM (similar a ChatGPT), que luego genera una respuesta y habla a través de un altavoz.
Esto puede parecer interesante, hasta que recuerdes que los LLM no tienen ética, sentido común ni “zonas seguras”. Predicen qué decir basándose en patrones de los datos, no en si un tema es apropiado para la edad. Si no se los controla y monitorea cuidadosamente, pueden descarrilarse, especialmente si están capacitados en el vasto desorden de Internet y cuando no existen filtros o barreras fuertes para proteger a los menores.
¿Y qué pasa con los controles parentales? Por supuesto, si por “control” te refieres a “un alegre menú de configuración donde no se puede controlar nada importante”. Algunos juguetes no tienen limitaciones significativas. Otros tienen vallas tan endebles que bien podrían estar hechas de papel de seda y optimismo.
El diálogo inquietante ni siquiera es toda la historia. Estos juguetes recopilan datos silenciosamente, como grabaciones de voz y datos de reconocimiento facial, a veces almacenándolos indefinidamente, porque nada dice “diversión infantil inocente” como un juguete de peluche que realiza una operación encubierta de datos sobre un hijo de 5 años.
No se pierda nuestro contenido tecnológico imparcial y reseñas basadas en laboratorio. Añadir CNET Como fuente preferida de Google.
Mientras tanto, los juguetes falsos e inseguros en línea siguen siendo un problema, como si no hubiera suficiente estrés para los padres. Alguna vez te preocupaste por una pequeña pieza de juguete que podría representar un peligro de asfixia o pintura tóxica. Ahora tienes que pensar si un juguete es físicamente inseguro y emocionalmente manipulador.
Más allá de las conversaciones extrañas y los consejos de fuego (¡ja!), existe una preocupación más profunda acerca de que los niños formen vínculos emocionales con estos chatbots a expensas de las relaciones reales o, quizás lo que es más preocupante, se apoyen en ellos para obtener apoyo emocional. Existe la Asociación Americana de Psicología. Advertido recientemente Que las aplicaciones de bienestar con IA y los chatbots son inesperados, especialmente para los usuarios más jóvenes.
Es posible que estas herramientas no proporcionen una acción confiable para los profesionales de la salud mental y pueden fomentar patrones de dependencia o preocupación poco saludables. Otras plataformas de IA ya han tenido que solucionar este problema. Por ejemplo, personaje.ai Y chatgptLo que alguna vez permitió a adolescentes y niños charlar libremente con chatbots de IA ahora está cerrando las conversaciones abiertas para menores, citando preocupaciones de seguridad y riesgo emocional.
Y realmente, ¿por qué necesitamos estos juguetes impulsados por IA? ¿Qué hitos de desarrollo importantes requiere un chatbot integrado en un osito de peluche? La infancia ya trae suficiente caos entre jugos derramados, rabietas y aldeas de Lego especialmente diseñadas para destrozar las piernas de los adultos. Nuestros hijos no necesitan un amigo robot con límites cuestionables.
Y déjenme ser claro: no estoy en contra de la tecnología. Pero estoy totalmente a favor de dejar que un animal de peluche sea un animal de peluche. No todo requiere IA o elementos robóticos. Si un juguete necesita una política de privacidad más larga que un cuento antes de dormir, probablemente no sea para niños.
Así que aquí tienes una idea descabellada para esta próxima temporada navideña: olvídate de los espeluznantes peluches impulsados por inteligencia artificial con hábitos de recopilación de datos y consíguele a tu hijo algo que no hable, ni se mueva, ni los lastime. Algo que no puede ofrecer consejos sobre cómo iniciar un incendio. Algo que no te hará suspirar dramáticamente cuando tu hijo se vaya. En otras palabras, compra un juguete sencillo. ¿Recuerdas esos?
