Anthropic finalmente ha anunciado planes para lanzar una versión pública de Mythos, su modelo de inteligencia artificial con capacidades avanzadas de ciberseguridad. En primer lugar, las empresas de IA necesitan desarrollar salvaguardias adecuadas, que, según admite ella misma, todavía no existen.
Compañía Publicado en una actualización En cuanto al Proyecto Glasswing, su programa de seguridad de acceso limitado, pretende ampliar el acceso a los gobiernos de EE. UU. y sus aliados en un “futuro cercano”, antes de una publicación más amplia del “modelo clase Mythos”.
Según informó The RegisterAnthropic fue clara sobre la incertidumbre del cronograma y dijo que ninguna empresa, incluida ella misma, había desarrollado salvaguardias adecuadas para evitar que el modelo fuera mal utilizado. Sin embargo, Antrópico en el Dr. Una publicación de blog relacionada Se cree que “los modelos a nivel de Mitos estarán ampliamente disponibles en los próximos 6 a 12 meses”.
¿Eres un superfan de Apple? Ingrese al gran juego de adivinanzas de Mashable para ganar premios.
Velocidad de la luz triturable
Mythos de Anthropic ya está encontrando fallos de seguridad en el software de Apple
Claude Mythos se publicó originalmente en abril. Anthropic dijo que el modelo logró generar un 72,4 por ciento de utilización del trabajo durante las pruebas, muy por encima del cero por ciento de Cloud Opus 4.6. En esos informes, investigadores etnográficos sin formación formal en seguridad le pidieron a Mithos que encontrara vulnerabilidades de la noche a la mañana y se despertara para completar exploits funcionales.
Desde entonces, el modelo ha escaneado más de mil proyectos de código abierto e identificado más de 23.000 defectos, incluidos más de 6.000 de gravedad alta o crítica. Entre ellos se encontraba una vulnerabilidad en la biblioteca de criptografía WolfSSL, utilizada por miles de millones de dispositivos, que permitía a los atacantes falsificar credenciales y hacerse pasar por sitios web legítimos. Desde entonces ha sido parcheado.
A medida que las herramientas de inteligencia artificial mejoran en la búsqueda de exploits, han creado una crisis de descubrimiento de errores de día cero, con algunos programas de recompensas por errores que se cerraron por completo. Los mantenedores de código abierto han pedido a Enthropic que reduzca su tasa de publicación, diciendo que la avalancha de informes de errores ha excedido su capacidad para solucionarlo.
La solución propuesta por Anthropic a la escasez de capacidad es, por supuesto, más IA. D Tarjeta del sistema Claude Mythos predice que las herramientas de inteligencia artificial eventualmente beneficiarán a los defensores de la ciberseguridad, aunque Anthropic también señala que Los piratas informáticos pueden tener una ventaja por ahora
