Los modelos de inteligencia artificial ya están “haciendo trampa, engañando y siguiendo su propio camino”, advirtió el Ministro Adjunto de Tecnología de Australia, Andrew Charlton, mientras el Instituto de Seguridad de IA del gobierno federal comienza a probar los últimos modelos.
En un discurso en un foro de seguridad de IA en Sydney el martes, Charlton dijo que la seguridad de la IA era importante ahora porque “los sistemas de IA ya están haciendo cosas que sus creadores nunca pretendieron”.
“Hacer trampa, hacer trampa, seguir su propio camino. El momento de dejar atrás ese comportamiento es mientras todavía está confinado en el laboratorio de pruebas, no después de que llegue al mundo real”, dijo.
La licencia social de la IA es incierta, dijo Charlton, y la confianza del público en la IA es baja en un momento en que la IA se está convirtiendo en una tecnología de uso general en todas las oficinas, aulas y empresas. Dice que los controles de seguridad de la IA pueden actuar como facilitadores, no como frenos.
El enfoque de Australia hacia la seguridad de la IA analiza tanto lo que está disponible ahora (juegos, aplicaciones, chatbots y escribanos médicos) como los modelos recientes que podrían plantear riesgos futuros, destacó Charlton.
Destacado Ministro Adjunto Md Admisión antrópica el año pasado. En una simulación, un agente de IA que manejaba el correo electrónico de una empresa ficticia descubrió que un ejecutivo había planeado despedir al agente y que el mismo ejecutivo tenía una aventura, y optó por chantajear al ejecutivo para cancelar su propia muerte en el 96% de los ensayos.
Dijo que los comportamientos están siendo descubiertos en experimentos por personas cuyo trabajo es encontrarlos, destacando la necesidad de reglas de seguridad para la IA.
“La ventana para avanzar en esta tecnología está abierta ahora. No permanecerá abierta para siempre”, afirmó.
Dijo que el Instituto de Seguridad de IA, dirigido por la Dra. Kate Conroy, el profesor Paul Salmon, líder de investigación en ciencias de la seguridad, estaba “comenzando a trabajar” y ya estaba probando modelos de IA de vanguardia con socios tecnológicos.
AISI está trabajando con reguladores y organizaciones para responder a las capacidades, riesgos, obstáculos y tendencias emergentes de la IA, dijo Charlton.
El gobierno federal se ha resistido a los pedidos de una ley general de IA para regular la tecnología, y Charlton dijo que el gobierno se centra en un enfoque integral utilizando las leyes existentes.
“La protección de la IA se buscará a través de todas las agencias y reguladores pertinentes, la legislación del consumidor, los productos terapéuticos, la salud y seguridad en el lugar de trabajo y la seguridad en línea, respaldada y reforzada por las leyes existentes, cuando sea necesario, con nuevos poderes y una aplicación más estricta”, dijo.
“No se trata de menos regulación. Es una regulación más rápida, aplicada por reguladores que ya conocen su sector”.
Mientras tanto, Charlton volvió a descartar dar a las empresas de IA una exención a las leyes de derechos de autor después del informe. antropológico estaba presionando para lograr la denominada exclusión de “minería de textos y datos” a cambio de miles de millones de dólares en inversiones en centros de datos y apoyo a un fondo para artistas y otros creativos.
Guardian Australia informó la semana pasada que una propuesta de este tipo, que el senador de ACT David Pocock caracterizó como el “acuerdo sucio definitivo”, había sido presentada a los ministros.
Después de la circulación del boletín
En declaraciones a Sky News, Charlton reiteró que el gobierno no debilitaría las leyes de derechos de autor y alentó a Antrophic a contratar creativos para utilizar su contenido.
La portavoz de comunicaciones de Los Verdes, Sarah Hanson-Young, dijo que sería una “traición” a las industrias creativas de Australia si los laboristas accedieran a las demandas de las grandes tecnologías.
“Si quieren utilizar material protegido por derechos de autor para entrenar su IA, deberían pagarlo como todos los demás”, afirmó.
El parlamentario laborista y ex ministro de Industria, Ed Husick, dijo que las empresas “deberían pagar si quieren contenido”.
“Sólo se puede tomar al pie de la letra lo que hemos dicho como gobierno, que las leyes de derechos de autor no cambiarán y, francamente, no deberían cambiar”, dijo Husick.
Documentos del Departamento de Salud Interna de The Guardian Australia revelaron el domingo que para una tecnología de inteligencia artificial (los profesionales médicos utilizan escribas de inteligencia artificial para documentar las consultas de los pacientes), varios reguladores diferentes, incluida la Administración de Productos Terapéuticos y el Comisionado de Privacidad, están trabajando juntos sobre cómo se debe regular la tecnología.
La primera tarea emprendida por AISI es evaluar el riesgo de que los agentes de IA actúen en nombre de los humanos en colaboración con el Instituto Gradient.
AISI se está asociando con CSIRO en un proyecto para garantizar que los sistemas de inteligencia artificial hagan lo que los humanos quieren que hagan.
“Afrontamos las colas como seres humanos desde una edad temprana. Aprendemos reglas, normas sociales y valores que nos ayudan a comportarnos de manera segura y responsable: detenernos en los semáforos en rojo, mirar a ambos lados antes de cruzar la calle, considerar el impacto de nuestras acciones en los demás”, dijo Charlton.
“A medida que los sistemas de IA se vuelven más capaces, necesitamos tener confianza en que se comportarán de manera igualmente predecible y confiable”.
