Defensores del CEO de Google: Evite que la IA de YouTube dañe a los niños

Los niños comen mucha basura de IA.

Y los defensores de la protección infantil están cada vez más preocupados. En una carta dirigida al director ejecutivo de Google, Sundar Pichai, y al director ejecutivo de YouTube, Neil Mohan, una coalición de agencias nacionales y expertos en desarrollo infantil exige cambios en las políticas de YouTube para reducir el deterioro de la IA, incluida una prohibición total del contenido “apto para niños” generado por IA.

“En ausencia de evidencia de que AI Slop sea seguro para los niños y de la posibilidad de que estos videos los hipnoticen y dañen, Google debe tomar medidas rápidas para proteger a los niños en su plataforma”, se lee en la carta. Hace dos semanas, YouTube anunció una asociación con el estudio de IA generativa Animaz, que se especializa en contenido infantil de IA y tiene miles de millones de visitas en varios canales de YouTube dirigidos a niños y bebés.

La carta, encabezada por la organización sin fines de lucro de protección infantil FairPlay, fue firmada por organizaciones como la Federación Estadounidense de Maestros, la Asociación Nacional de Desarrollo Infantil Negro y Madres contra la Adicción a los Medios (MAMA), así como expertos como Jonathan Haidt, autor del libro muy citado. generación ansiosa. El grupo notó una creciente preocupación de que la exposición al contenido de IA podría distorsionar la percepción de la realidad de los niños, causar una sobrecarga cognitiva y desplazar las actividades del mundo real necesarias para el desarrollo.

“Primero YouTube introdujo cortos con contenido hecho para niños sin pensar en el impacto que tendría en los espectadores jóvenes, y luego, no es de extrañar, la IA comenzó a competir por la atención de los niños en esos feeds. Es hora de que las plataformas comiencen a respetar la atención y las mentes de los niños pequeños, no solo a tratarlos como recursos para explotar”, dijo Jenny Radesky, investigadora de medios sobre Comportamiento del Desarrollo. la carta

El grupo también anunció una petición pública exigiendo a YouTube que implemente varias políticas de seguridad nuevas para abordar la proliferación de basura de IA dirigida a los niños, que incluyen:

• Etiquetar claramente todo el contenido generado por IA en YouTube

• Exclusión de contenido generado por IA de YouTube Kids

• Prohibir videos centrados en niños (“hechos para niños”) en YouTube que sean generados por IA

• Prohibir recomendaciones algorítmicas de contenido generado por IA para usuarios menores de 18 años

• Implementar un interruptor en los controles parentales para que los padres puedan desactivar el contenido generado por IA incluso si los niños lo buscan.

• Detener toda inversión en la creación de videos para niños generados por IA

En respuesta, un portavoz de YouTube le dijo a Mashable: “Tenemos alta calidad Para contenido en YouTube Kids, incluida la limitación del contenido generado por IA en la aplicación a un pequeño conjunto de canales de alta calidad. También les damos a los padres la opción de bloquear canales. En YouTube, priorizamos la transparencia cuando se trata de contenido de IA, etiquetamos el contenido de nuestras propias herramientas de IA y exigimos a los creadores que publiquen contenido de IA realista. Siempre estamos evolucionando nuestro enfoque para mantenernos actualizados a medida que evoluciona el ecosistema”.

La carta llega una semana después de un reciente fallo que sentó un precedente en una demanda contra Meta y la empresa matriz de YouTube, Google, que se puso del lado de un usuario de 19 años que afirmó que las empresas sabían que sus plataformas podían ser “peligrosamente adictivas” e ignoraron las advertencias sobre la salud mental del usuario. Un jurado de Los Ángeles determinó que tanto Meta como YouTube no abordaron las precauciones de seguridad internas y siguieron adelante con características de la plataforma que generaron preocupaciones a los expertos.

“En algunos casos, animaciones aparentemente benignas pueden ser de naturaleza sexual o violenta”, dijo Sebastian Mahal, copresidente de la coalición de lobby liderada por jóvenes Design It For Us. “Los jóvenes no quieren ser atacados por el algoritmo de YouTube con este tipo de experiencias. Después de que un jurado de California declaró a YouTube culpable de no proteger a los jóvenes en su plataforma, uno podría pensar que YouTube finalmente tomaría en serio su responsabilidad hacia sus usuarios jóvenes”.

Si bien los algoritmos de Instagram han exacerbado las crisis de salud mental de los jóvenes, especialmente entre los adolescentes, los defensores de la protección infantil han advertido durante mucho tiempo que YouTube es un sitio peligroso para los niños pequeños.

Rachel Franz, directora del programa Young Children Thrive Offline de FairPlay, dijo a Mashable en una entrevista en marzo: “Si ‘gestionar el desperdicio de IA’ fuera realmente la principal prioridad de YouTube este año, ya habrían eliminado los millones de videos generados por IA ‘hechos para niños’ que están diseñados para involucrar a los niños pequeños y darles más tiempo frente a la pantalla”.

youtube es La plataforma de vídeos más popular. Para audiencias infantiles más pequeñas, especialmente entre familias de bajos ingresos. A pesar de los esfuerzos de YouTube por abordar el contenido generado por IA Aún no se ha logrado frenar del todo el problemaY el contenido generado por IA se ha vuelto dirigido a los niños. Negocio rentable. Mohan ha dicho anteriormente que gestionar el deterioro de la IA es un “Máxima prioridad” para la compañía. YouTube también dijo que ha limitado la aplicación YouTube Kids solo a contenido generado por IA de canales de “alta calidad”.

A Los New York Times El informe encontró miles de vídeos de IA de baja calidad en el algoritmo de YouTube, que violaban las políticas de seguridad infantil. Actualmente, los vídeos animados generados por IA no requieren etiquetas de IA y las etiquetas de IA no aparecen de forma constante en YouTube Kids. YouTube sólo requiere etiquetas para configuraciones “realistas” o medios sintéticos creados para imitar a las personas.

En respuesta a la nueva carta, Franz añadió: “El algoritmo de YouTube hace imposible que los niños eviten la IA. YouTube debe dejar de poner IA en los niños ahora, antes de que dañe a toda una generación de niños”.

Actualización: 1 de abril de 2026, 3:06 pm EDT Este artículo ha sido actualizado con una declaración oficial de YouTube.