Tabla de contenido
Los millennials, la primera generación de ordenadores, recuerdan muchas conferencias en las aulas sobre la falta de fiabilidad de Wikipedia. Se nos pide que tengamos cuidado con las publicaciones en foros no verificadas. Nos aconsejaron buscar fuentes primarias en la World Wide Web y el lugar para comenzar fue Google.
Ahora que la Generación Alfa ingresa a las aulas impulsadas por inteligencia artificial, ¿puede la búsqueda de Google ser más convincente?
Un nuevo informe del organismo de vigilancia de la seguridad infantil Common Sense Media dice que la búsqueda modernizada impulsada por IA de Google Crea un “riesgo inaceptable”. A los jóvenes empleados de Google. De hecho, dicen los autores del informe, el motor de búsqueda de IA generativa es tan riesgoso que hasta que los educadores de Google puedan apagar la IA, los estudiantes deberían dejar de usarlo por completo.
Los adolescentes que hablen con la meta IA sobre el suicidio activarán una alerta
La búsqueda con IA de Google como una amenaza para las aulas
Los defensores de la protección infantil llevan años instando a las escuelas a eliminar la tecnología en las aulas. A medida que la IA generativa se incorpora a los productos educativos, ese clamor se ha vuelto más fuerte. Pero si bien es fácil ver el daño potencial de presentar algo como ChatGPT a los estudiantes jóvenes, no está claro que una simple búsqueda en Google expondría a los estudiantes jóvenes a la IA.
Lanzado por Google Modo AI para buscar A diferencia del lanzamiento de AI Overview el año pasado, el Modo AI estuvo inmediatamente disponible para todos los que tuvieran cuentas educativas. Tanto Common Sense Media como otros expertos con los que habló Mashable dijeron que esto era preocupante, principalmente porque el modo de inteligencia artificial de Google está impulsado por modelos Gemini, modelos que se basan en la edad en otras experiencias de Google, incluida la suite de tecnología educativa de Google.
La Búsqueda de Google es un producto estrella del gigante tecnológico y una herramienta esencial tanto para educadores como para estudiantes, explica Robbie Torney, director senior de programas de inteligencia artificial de Common Sense Media. “Google es un actor de gran tamaño tanto en el espacio de búsqueda Y Un lugar de aprendizaje”.
La compañía lideró un movimiento de dispositivos 1:1 que vio la introducción de dispositivos personales como Chromebooks en escuelas de todo el país. Google Workspace for Education ahora impulsa la suite administrativa y los recursos del aula. Posteriormente, la empresa se convirtió en un importante promotor de la implementación de la IA, introduciendo y luego introduciendo Gemini para la educación. Google Now cuenta con millones de espacios de trabajo para usuarios de educación, Chromebooks y otros productos educativos de Google, desde niños de jardín de infantes hasta graduados.
Al hacer que la IA generativa sea fundamental para los productos de Google, hasta el punto en que muchos usuarios ni siquiera se dan cuenta de que la están usando, Google ha destruido años de confianza, dijeron fuentes a Mashable.
Buscar en Google ya no es tan fácil
Por un lado, los investigadores encontraron descripciones generales de la IA de Google. Información errónea propensa a la repeticiónUn punto conflictivo principal del producto es que Aún no resuelto Por el gigante tecnológico. Al igual que con los problemas que existen con los chatbots, dijeron las fuentes a Mashable, el diseño del producto sugiere un aire de autoridad que fácilmente podría confundir a los adultos, y mucho menos a los niños.
Además, Common Sense Media descubrió que las herramientas de inteligencia artificial de Google completan fácilmente las tareas de los usuarios menores. Los expertos sugieren que esta combinación de diseño confuso, diferentes respuestas y la naturaleza agradable de los chatbots (con modo IA) puede llevar a que los estudiantes hagan trampa involuntariamente. Como mínimo, dicen, buscar en Google puede dificultar el aprendizaje.
“Están ingresando a la IA de una manera inapropiada para el desarrollo a través de la búsqueda”, explica Amanda Bickerstaff, subdirectora de IA para la Educación. La organización trabaja con instituciones educativas para desarrollar programas de alfabetización en IA y reducir el posible impacto negativo de las herramientas de IA generativa en la educación de los niños.
Velocidad de la luz triturable
No hay ninguna razón por la que los niños de 10, 13 o incluso 15 años necesiten ver la descripción general de AI o el modo AI.
Bickerstaff calificó el modo de IA como una puerta trasera para que los estudiantes accedan a experiencias de IA generativa inseguras. Esto complica las habilidades de alfabetización de los educadores en la próxima generación, explicó Bickerstaff, al replicar algunas de las peores partes del diseño de chatbot en entornos de información que antes eran confiables.
“No hay ningún motivo para que un niño de 10, 13 o incluso 15 años vea una visión general de la IA o tenga un modo de IA”, afirma Bickerstaff. “Al enseñar conocimientos de IA, el primer paso tiene que ser intencional. Estos modos son lo opuesto. No vas a un motor de búsqueda para obtener una respuesta de un chatbot, sino que vas a buscar cosas reales”.
La descripción general de la IA y el nuevo modo de IA del chatbot de búsqueda de Google pueden plantear riesgos para la seguridad y la salud mental de los niños, informa Common Sense Media.
Google no solo ofrece la opción de desactivar las funciones de IA mientras mantiene accesible la búsqueda. Esto significa que los niños aún pueden estar expuestos a la IA generativa mientras están en la escuela, incluso cuando están vigilados, simplemente haciendo su trabajo escolar. Los padres pueden desactivar o bloquear la búsqueda por completo google.com En cuanto a las cuentas infantiles que gestionan, explica Google. En teoría, los administradores escolares podrían hacer lo mismo con las cuentas de Workspace for Education, bloqueando el dominio de búsqueda de Google para todos los usuarios. Bickerstaff considera que esto pone a los profesores entre la espada y la pared. “¿Qué vas a decir? ¿Que los niños no pueden buscar en la web?”
En una declaración a Mashable después de la publicación del informe, Google dijo que las pruebas de estrés de Common Sense Media eran estrechas y vagas, y no eran una “forma efectiva de medir la seguridad y usabilidad del producto”. Common Sense Media no ha probado Workspace para cuentas educativas, solo cuentas de consumidores. Sin embargo, Google ha revelado que la experiencia de búsqueda impulsada por IA es la misma para todos los usuarios, dijo Torney.
La feroz batalla con la IA en las escuelas
¿Podría la investigación de la IA ser una pesadilla legal para las escuelas?
Debido a esto, las fuentes le dijeron a Mashable que podría ser el momento de cortar los lazos con Google.
“La visión general de la IA de Google y el modo IA están socavando la educación de los niños, proporcionándoles información peligrosa y poniendo sus vidas en riesgo”, dijo David Monahan, director de campaña de la organización sin fines de lucro de protección infantil Fairplay for Kids. “Si Google ni siquiera está dispuesto a desactivar las funciones de inteligencia artificial para los estudiantes, entonces las escuelas deberían dejar de usar los productos de Google por completo”.
El informe de Common Sense Media podría ser una sorprendente llamada de atención para los distritos escolares, dijo Anya Meksin, subdirectora de Schools Beyond Screens, una coalición nacional que impulsa políticas escolares que limiten el uso de la tecnología en el aula. Las escuelas han liderado recientemente el camino más allá de las pantallas Política del Distrito Escolar Unificado de Los Ángeles (LAUSD) sobre el uso de nuevas tecnologías en las escuelasIncluyendo restricciones de tiempo frente a la pantalla para las clases de jardín de infantes y primer grado.
Tanto Fairplay como Schools Beyond Screen lideran las convocatorias Moratoria de un año Uso de IA general en las escuelas. Mexin explicó que los defensores ya están haciendo sonar la alarma sobre la búsqueda mediante IA y otros productos integrados de Google, no sólo los chatbots.
“Estamos consternados por la forma en que las grandes tecnologías han colonizado la educación pública con sus productos”, dijo Mexin. “Tenemos que tratar esto como algo urgente. La educación es la base de nuestra democracia y, conscientemente, están quitando el poder a nuestros niños para que puedan luchar contra estas empresas en el futuro”.
Los distritos escolares, incluido el LAUSD, han luchado para lidiar con los problemas causados por su dependencia de la tecnología en el aula, a menudo en detrimento de los suyos propios. Políticas emergentes de IAExplicó.
“Los distritos escolares violan inmediatamente cualquier política debido a la velocidad de la tecnología y la forma en que está integrada la IA”, afirmó Meksin. Por ejemplo, la nueva política del LAUSD prohíbe a los estudiantes menores de 13 años utilizar IA generativa en las escuelas. Pero con productos como Chromebooks y la Búsqueda de Google en las computadoras de las escuelas, los estudiantes aún pueden interactuar con el modo AI.
Tenemos que considerarlo urgente.
Durante los últimos 20 años, ha habido escuelas K-12 Gastó miles de millones Equipar sus aulas con tecnología educativa. Mexin dijo que varios distritos le han dicho que es imposible desactivar por completo una gama tan amplia de servicios, incluidos productos de Google como los Chromebook.
“Esta posición nos parece completamente ridícula”, afirmó Mexin. “Los distritos escolares son responsables de exponer a los niños a productos que se sabe que causan daños graves y duraderos”. Él cree que las instituciones educativas podrían meterse en el mismo lío legal que las empresas de redes sociales y inteligencia artificial.
Google y su empresa matriz Alphabet se enfrentaron a esto recientemente Primer caso de muerte por negligencia Luego de que un usuario se suicida tras una conversación con Géminis. Se encontró YouTube, también propiedad de Alphabet La culpa es del descuidado diseño de la plataforma y consiguientes daños a la salud mental de los usuarios menores de edad. Torney comparó el lanzamiento de funciones de inteligencia artificial de Google con esto Introducción a YouTube en el aulaLo cual también ha sido discutido por los defensores de la protección infantil.
En lugar de exponerse a una mayor responsabilidad, Meksin cree que los distritos escolares deberían impulsar un alejamiento de las grandes tecnologías, comenzando con controles más estrictos para las funciones de IA generativa integradas que ahora están disponibles en los dispositivos escolares. “Como mayor comprador de estos productos, los distritos tienen el poder. Si Google se niega a cumplir, los distritos deben dejar de usar estos productos y rescindir estos acuerdos”.
