en un nuevo Informe de seguimiento de amenazas Publicado el jueves, Google dijo que los piratas informáticos participaron en “ataques de destilación”, incluido un caso en el que utilizaron más de 100.000 indicaciones de IA para robar la tecnología de la compañía para el modelo de IA Gemini.
Google dijo que los ataques parecen provenir de adversarios en países como Corea del Norte, Rusia y China, y que los intentos de robar propiedad intelectual de la IA y posiblemente clonarla en modelos de IA en otros idiomas son parte de un conjunto más amplio de ataques y malware basados en IA que la compañía ha descubierto.
La compañía caracteriza estos esfuerzos como ataques de extracción de modelos, que, según dice, “ocurren cuando un adversario utiliza el acceso legítimo para probar sistemáticamente un modelo maduro de aprendizaje automático para extraer información utilizada para entrenar un nuevo modelo”.
Esto podría significar usar IA para inundar a Gemini con miles de indicaciones para replicar las capacidades de su modelo. Google señala en el informe que esto no es una amenaza para sus usuarios, sino para los proveedores de servicios y fabricantes de modelos, que pueden ser vulnerables al robo y la copia de su trabajo.
Competencia de IA y robo de IA
John Hultquist, analista principal del Google Threat Intelligence Group, que compiló el informe, dijo a NBC News Puede que Google esté entre las primeras empresas en afrontar este tipo de intentos de robo, pero podría haber más. “Vamos a ser el canario en la mina de carbón durante muchos más incidentes”, afirmó.
La batalla contra los modelos de IA se ha intensificado en varios frentes, más recientemente con empresas chinas como ByteDance introduciendo tecnologías avanzadas. Herramienta de generación de videos. El año pasado, la empresa china de inteligencia artificial Dipsik La IA llega a la industriaLa cual fue liderada inicialmente por empresas estadounidenses, introduciendo un modelo que compite con las principales tecnologías de IA del mundo. AbiertoAI Posteriormente acusado Dipsik entrena su IA con tecnología existente, como describe Google en su nuevo informe.
(Divulgación: Jeff Davis, la empresa matriz de CNET, presentó una demanda contra OpenAI en 2025, alegando que violó los derechos de autor de Jeff Davis al entrenar y operar sus sistemas de IA).
