Una importante empresa de inteligencia artificial afirma que ha detenido una campaña de “ciberespionaje” respaldada por China que pudo infiltrarse en empresas financieras y agencias gubernamentales casi sin supervisión humana.
Anthropic, con sede en Estados Unidos, dijo que su herramienta de codificación, Cloud Code, fue “manipulada” por un grupo patrocinado por el estado chino para atacar a 30 entidades en todo el mundo en septiembre, logrando “un puñado de intrusiones exitosas”.
Escribió en una publicación de blog que se trataba de una “mejora significativa” con respecto a ataques anteriores habilitados por IA. JuevesPorque Claude trabajó en gran medida de forma independiente: entre el 80 y el 90 % de las operaciones involucradas en el ataque se realizaron sin un humano al tanto.
“El actor ha logrado lo que creemos es el primer caso documentado de un ciberataque llevado a cabo sin intervención humana masiva”, escribió.
Anthropic no especificó qué instituciones financieras y agencias gubernamentales fueron atacadas, ni qué lograron exactamente los piratas informáticos, aunque dijo que pudieron acceder a los datos internos de sus objetivos.
Dijo que Claude cometió muchos errores al llevar a cabo el ataque, a veces fabricando información sobre sus objetivos o afirmando haber “descubierto” información de libre acceso.
Los formuladores de políticas y algunos expertos dicen que los resultados son una señal inquietante de cuán capaces se han vuelto ciertos sistemas de inteligencia artificial: herramientas como Claude ahora pueden operar de forma independiente durante largos períodos de tiempo.
El senador estadounidense Chris Murphy dijo: “Despierten. escribió En X en respuesta a los resultados.
“Los sistemas de IA ahora pueden realizar tareas que antes requerían operadores humanos capacitados”, dijo Fred Heiding, investigador de seguridad informática de la Universidad de Harvard. “Cada vez es más fácil para los atacantes causar daños reales. Las empresas de inteligencia artificial no asumen suficiente responsabilidad”.
Otros expertos en ciberseguridad se mostraron más escépticos y señalaron afirmaciones infladas sobre ciberataques impulsados por IA en los últimos años; Un “descifrador de contraseñas” impulsado por IA A partir de 2023, eso no funcionó mejor que los métodos convencionales, y sugiere que Anthropic está tratando de generar entusiasmo en torno a la IA.
“Para mí, Anthropic describe una automatización sofisticada, nada más”, dijo Michal Woniak, un experto independiente en ciberseguridad. “Está involucrada la generación de código, pero no es ‘inteligencia’, es simplemente copiar y pegar picante”.
Woźniak dijo que la divulgación de Anthropic fue una distracción de una preocupación de ciberseguridad más amplia: las empresas y los gobiernos integran herramientas de inteligencia artificial “complejas y poco comprendidas” en sus operaciones sin darse cuenta, exponiéndolos a vulnerabilidades. La verdadera amenaza, afirmó, son los propios ciberdelincuentes y las prácticas laxas de seguridad cibernética.
Después de la circulación del boletín
Anthropologie, como todas las empresas líderes en inteligencia artificial, cuenta con salvaguardas que se supone impiden que sus modelos ayuden a los ciberataques o, en general, promuevan daños. Sin embargo, dijo, los piratas informáticos pudieron subvertir a estos guardias haciéndose pasar por Claude “un empleado de una empresa legítima de seguridad cibernética” que realizaba la prueba.
Woniak dice: “Anthropic vale alrededor de 180 mil millones de dólares y todavía no saben cómo no desfigurar sus equipos con un truco que un niño de 13 años quiere hacerle una broma a alguien”.
Marius Hobbahn, fundador de Apollo Research, una empresa que evalúa la seguridad de los modelos de IA, dijo que los ataques eran una señal de lo que podría suceder a medida que crezcan las capacidades.
“Creo que la sociedad no está preparada para un panorama que cambia tan rápidamente en términos de inteligencia artificial y capacidades cibernéticas. Espero que ocurran muchos más eventos similares en los próximos años, posiblemente con consecuencias importantes”.
