Un destacado experto en inteligencia artificial advirtió que algunos australianos están mostrando signos de psicosis o locura en sus interacciones con chatbots, argumentando que Silicon Valley se está volviendo “imprudente” con la tecnología en su búsqueda de ganancias.
Durante un discurso en el National Press Club el miércoles, el profesor de inteligencia artificial de la Universidad de Nueva Gales del Sur, Toby Walsh, dijo que cree que la carrera de la IA será al mismo tiempo “de auge y perdición”, con algunos beneficios.
Pero su discurso, del cual se proporcionó una copia a Guardian Australia, también advirtió sobre los peligros que, según dijo, lo han enojado desde que la tecnología maduró en los últimos años.
“Los sueños de mi infancia se están haciendo realidad, lo cual es a la vez bueno y malo”, dijo en sus comentarios preparados.
Regístrese para recibir: correo electrónico de noticias de última hora de AU
El discurso de Walsh destacó un caso legal contra OpenAI por parte de la familia del adolescente estadounidense Adam Raine, con datos que muestran que más de un millón de sus usuarios cada semana envían mensajes que incluyen “indicadores claros de posibles planes o intenciones suicidas”.
Los 560.000 de OpenAI dijeron 800 millones de usuarios semanales mostró signos de psicosis o manía y formó vínculos potencialmente nocivos con otros 1,2 millones de chatbots.
Walsh dijo que algunos de los arrestados por la información estaban en Australia.
“Lo sé porque algunos de ellos o sus seres queridos se ponen en contacto conmigo por correo electrónico”, decía en su discurso preparado.
“Me cuentan cómo el chatbot confirma sus teorías más descabelladas. Que el chatbot les dice, citando un correo electrónico, que han ‘descifrado el código’. Que son ‘los únicos que pueden'”.
Los chatbots están diseñados de esa manera, afirma Walsh.
“Están diseñados para ser aduladores. Están diseñados para confirmar lo que dice el usuario. Y están diseñados para involucrar al usuario. Siempre terminan con una pregunta abierta, rogándole que continúe la conversación y compre más tokens”.
Dijo que a las empresas responsables de los chatbots no les interesa pedir a los usuarios que cierren sesión.
“No hay razón para que no puedan diseñarse de esa manera. Ganarían menos dinero si lo hicieran, excepto para la gente incauta de Silicon Valley”.
OpenAI afirma que una actualización de GPT-5 ha reducido la cantidad de comportamientos no deseados de su producto y ha mejorado la seguridad del usuario.
Walsh también expresó su indignación por el “robo a gran escala” del trabajo creativo utilizado para entrenar la IA y los resúmenes de artículos de noticias en la búsqueda, robando tráfico de los sitios de noticias.
“Legalmente no se puede llamar uso legítimo cuando se compite con el propietario de la propiedad intelectual”, dijo.
“Me niego a aceptar una revolución de la IA que enriquezca a los fundadores de Silicon Valley y al mismo tiempo empobrezca a los artistas, escritores y músicos australianos”.
Walsh apuntó a las empresas que, según dijo, estaban ignorando la ley, particularmente en torno a los escándalos.
En noviembre, Reuters informó que los documentos internos de Meta para finales de 2024 decían que Meta generaría alrededor del 10% de sus ingresos anuales totales (alrededor de 16 mil millones de dólares) a partir de publicidad ilegal ese año.
Meta Response dijo que ha reducido los anuncios fraudulentos en un 58% en los últimos 18 meses.
Walsh dijo que se está utilizando IA para crear estos anuncios fraudulentos y que Meta ha permitido a los anunciantes usar IA para administrar estas campañas publicitarias, mientras que la IA decide qué anuncios verá la gente.
Dijo que si el 10% de los productos de un minorista australiano fueran falsificados o ilegales, estaría cerrado durante el fin de semana.
“Así que no veo cómo vamos a permitir que Meta negocie en Australia”, dijo.
Walsh dijo que estaba decepcionado de que el gobierno australiano no estuviera haciendo más para regular la IA.
“Me temo que estamos repitiendo los errores de las redes sociales”, afirmó. “Las redes sociales deberían haber sido una llamada de atención sobre los peligros de la IA descontrolada.
“Vamos a potenciar el tipo de daño que hemos visto en las redes sociales con tecnología más poderosa y persuasiva.
“Lo que más temo es volver aquí dentro de tres o cuatro años diciendo: ‘Intentamos advertirles. Pero otra generación de jóvenes australianos ha sido sacrificada por los logros de las grandes tecnologías'”.
