Después de introducir una prohibición de las aplicaciones de redes sociales para adolescentes el año pasado, Australia ahora está endureciendo los requisitos de verificación de edad para las aplicaciones de inteligencia artificial. Aquí están los detalles.
Probando aplicaciones de IA para problemas de salud mental
El año pasado, Australia se convirtió en el primer país en prohibir las aplicaciones de redes sociales para adolescentes, el primer esfuerzo nacional para proteger la salud mental de los jóvenes.
La medida sigue a la creciente preocupación global sobre los efectos de las redes sociales en la salud mental de los usuarios jóvenes, un debate que se ha intensificado desde la publicación de libros como The Anxious Generation de Jonathan Haidt.
Ahora, a partir del 9 de marzo, las plataformas de inteligencia artificial, incluidos los servicios de empresas como OpenAI, deben cumplir con una serie de requisitos diseñados para evitar que los usuarios menores de 18 años accedan a contenidos de pornografía, violencia extrema, autolesiones o trastornos alimentarios.
La medida también aborda las preocupaciones sobre el uso excesivo de chatbots entre los adolescentes, incluidos los temores de que las características de diseño emocionalmente manipuladoras puedan fomentar la dependencia en un momento en que el impacto de las herramientas no está claro:
Australia aún no ha recibido informes de violencia o autolesiones relacionadas con chatbots, pero (eSafety) informó que niños de hasta 10 años pasaban seis horas al día hablando con la herramienta interactiva impulsada por IA.
eSafety estaba “preocupado porque las empresas de inteligencia artificial están utilizando la manipulación emocional, el antropomorfismo y otras técnicas avanzadas para atraer a los jóvenes a los chatbots, ingresarlos y abusarlos de ellos”, dijo el portavoz.
Como parte de las nuevas reglas, Reuters Informe Tiendas de aplicaciones y motores de búsqueda que pueden necesitar bloquear el acceso a servicios de IA que no cumplen con las normas:
El regulador de Internet de Australia dijo que podría presionar a los motores de búsqueda y tiendas de aplicaciones para que bloqueen los servicios de inteligencia artificial que no verifican la edad de un usuario, después de que una revisión de Reuters mostrara que más de la mitad no había revelado ningún paso para cumplir antes de la fecha límite de la próxima semana.
cuando Reuters Cuando se le pidió un comentario, Apple se negó a responder.
Aún así, la compañía ha implementado protecciones relacionadas con la edad en toda su plataforma para cumplir con las leyes de restricción de edad en todo el mundo, incluidos sistemas que dependen de señales detectadas automáticamente por los dispositivos. La adopción de estas API, así como el cumplimiento de los requisitos locales, sigue siendo, en última instancia, responsabilidad de los desarrolladores individuales.
Volviendo al tema de Australia, Reuters También informó que el cumplimiento sigue siendo limitado, y que la mayoría de las 50 herramientas de inteligencia artificial basadas en texto más populares no muestran ningún movimiento claro hacia la implementación de la verificación de edad o el filtrado de contenido antes de la fecha límite que se acerca rápidamente.
leer Reutersinforme completo, Sigue este enlace.
