El desarrollador de inteligencia artificial Anthropic dice que su nuevo modelo de inteligencia artificial en la nube es tan bueno para encontrar vulnerabilidades de ciberseguridad que no es público. En cambio, la compañía está proporcionando herramientas a grandes proveedores de infraestructura tecnológica para corregir los errores que encuentren.
A finales de marzo, Comienzan las filtraciones de palabras Ese es el último modelo de IA de Anthropic. Conocido como Claude Mythos (PDF), un paso adelante para la tecnología de inteligencia artificial de la empresa. Ahora, la agencia ha adelantado sus capacidades y ha advertido que Mythos representa una importante amenaza a la ciberseguridad, ya que El poder representa un salto adelante Encontrar y explotar vulnerabilidades de seguridad en línea.
“Los modelos de IA han alcanzado un nivel de capacidad de codificación en el que pueden superar a todos, excepto a los humanos más capacitados, en la búsqueda y explotación de vulnerabilidades de software”, dijo la compañía. dijo en una publicación de blog martes La vista previa de Mythos, que no se ha hecho pública, ya ha descubierto que tiene miles de vulnerabilidades de seguridad críticas en “todos los principales sistemas operativos y navegadores web”, dijo Anthropic. Cuando se le pidió un comentario, un representante de Anthropic dirigió a CNET a la publicación del blog de la compañía.
Para abordar los riesgos de ciberseguridad, Anthropic dijo que está lanzando un consorcio Llamado Proyecto Glasswing Estos incluyen Apple, Amazon Web Services, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, Nvidia y Palo Alto Networks. Anthropic dijo que estas empresas y más de 40 más tendrán acceso a Mythos para comenzar a trabajar en la mejora de las defensas contra ataques y exploits de IA. También está proporcionando 100 millones de dólares en créditos de uso para Mythos y 4 millones de dólares en subvenciones para organizaciones de seguridad de código abierto.
“Los peligros de hacerlo mal son obvios, pero si lo hacemos bien, existe una oportunidad real de crear una Internet y un mundo fundamentalmente más seguros que los que teníamos antes de la llegada de las capacidades cibernéticas impulsadas por la IA”, dijo el director ejecutivo de Anthropic, Dario Amodi. Publicado en X.
A Vídeo publicado en YouTube Respecto al Proyecto Glasswing, líderes de empresas como Microsoft, la Fundación Linux y Anthropic discutieron el daño potencial causado por las vulnerabilidades del software.
Las principales empresas de computación en la nube ya están trabajando con nuevos modelos para encontrar vulnerabilidades. “Lo que encontramos fue esclarecedor”, dijo Anthony Greco, director de seguridad y confianza de Cisco. escribió en una publicación de blog. “Ahora comienza el verdadero trabajo. Los análisis impulsados por IA descubren datos a una escala y profundidad que las estructuras heredadas no fueron diseñadas para acomodar”.
Según Amazon Web Services, el modelo ya existe Encuentre formas de fortalecer el código Incluso en sus sistemas mejor probados. Amy Herzog, vicepresidenta y directora de seguridad de la información de AWS, calificó la vista previa de Claude Mythos como “un cambio radical en la lógica y las capacidades de inteligencia artificial para la ciberseguridad”.
¿Qué importancia tiene este nuevo modelo?
El fenómeno de que la IA sea capaz de descubrir y potencialmente explotar vulnerabilidades de software no es nuevo. Gran desafío cibernético de DARPA La zona ha visto varios ejemplos de atención de la IA, dijo Mikal Salat, director de inteligencia de amenazas. nortonProveedor de antivirus.
Pero ahora la tecnología de IA, que está disponible para cualquiera, tiene algunas capacidades. “El Proyecto GlassWing de Anthropic se centra en proteger esta poderosa tecnología, que podría transformar la investigación de vulnerabilidades pero también plantea un riesgo grave si se utiliza indebidamente con fines maliciosos”, dijo Salat en un correo electrónico. “Aunque representa un gran paso adelante respecto a los modelos superiores actuales, como por ejemplo Opus 4.6Las capacidades subyacentes ya existen hoy en día, y la investigación de vulnerabilidades está emergiendo rápidamente como uno de los principales casos de uso en el mundo real de la IA en ciberseguridad”.
Los responsables políticos nacionales que se están frenando Sobre los requisitos de la regulación federal de IAProbablemente seguirá de cerca el progreso del consorcio.
Senador Mark Warner En un comunicado elogió la iniciativa.. “Aplaudo a estas organizaciones líderes por reconocer esta amenaza y compartir de manera proactiva información, capacidades y potencia informática para proteger mejor nuestra infraestructura crítica”, dijo el demócrata de Virginia. “A medida que la IA acelera drásticamente el descubrimiento de nuevas vulnerabilidades, espero que la industria acelere y priorice de manera similar la aplicación de parches”.
Warner, cuyo estado es el epicentro de los centros de datos de IA, recientemente convocó una propuesta de moratoria sobre la construcción de centros de datos “idiotez“Pero también advirtió sobre los peligros para la sociedad. El rápido desarrollo de la IA conduce a pérdidas masivas de empleos.
