La decisión de los jefes militares de utilizar inteligencia artificial como parte de una importante revisión estratégica plantea importantes riesgos para la seguridad, dijo anoche un experto.
La decisión del Ministerio de Defensa de poner un modelo de IA a la vanguardia de las investigaciones sobre las necesidades de defensa de Gran Bretaña -que fue desarrollado en Estados Unidos- podría ser explotada por estados rebeldes y piratas informáticos, advirtió.
Desde el software utilizado en aviones de combate hasta la búsqueda de grandes conjuntos de datos, se espera que las tecnologías de IA transformen las operaciones militares en los próximos años.
Pero ayer se supo que el Ministerio de Defensa ha implementado un programa de IA personalizado a través de su presentación de Revisión de Defensa Estratégica, que dará forma a futuras decisiones y prioridades de gasto.
El Mail hizo campaña para aumentar el gasto en defensa al 2,5 por ciento del producto interno bruto (PIB).
La decisión de los jefes militares de utilizar inteligencia artificial como parte de una importante revisión estratégica plantea importantes riesgos para la seguridad, según un consultor senior del Ministerio de Defensa y de la OTAN (imagen de archivo).
El Ministerio de Defensa implementa un programa de inteligencia artificial personalizado para realizar su Revisión de Defensa Estratégica, dirigida por la asistente del ex presidente de los Estados Unidos, Donald Trump, Fiona Hill.
El exsecretario general de la OTAN, George Robertson, también lidera los DEG
Si bien el gobierno laborista no ha establecido un calendario para aumentar el presupuesto al 2,5 por ciento desde el límite de gasto actual del 2,2 por ciento, puede hacerlo basándose en los resultados de los DEG.
Pero se teme que el uso de IA en las revisiones pueda revelar datos confidenciales a las fuerzas armadas, según un alto consultor del Ministerio de Defensa y de la OTAN.
La profesora Mariarosaria Tadeo de la Universidad de Oxford, que asesora sobre ética y regulación digitales, dijo: ‘Incluso si la IA es interna a una organización, ¿estamos creando un caballo de Troya?
‘La IA es realmente frágil y puede ser atacada. ¿Cómo se desarrolla la IA, quiénes participan y qué tipo de experimentos se planifican?
“Esta es una cuestión clave a considerar si la transformación del sector de defensa impulsada por la IA va en la dirección correcta”.
El modelo de IA utilizado como parte del SDR fue desarrollado por la empresa estadounidense de ‘tecnología de espionaje’ Palantir Technologies.
La firma de Silicon Valley se ha enfrentado anteriormente a una controversia sobre su contrato con el NHS para cargar datos de pacientes en una base de datos central, y los críticos han planteado preocupaciones sobre la privacidad.
Es la primera vez que el Ministerio de Defensa otorga a la IA un papel tan destacado en la estrategia y la planificación, y esto forma parte de un impulso más amplio por parte del gobierno para aprovechar la tecnología.
Anoche, fuentes de defensa dijeron al Mail que era “arriesgado” utilizar un sistema no probado en un proyecto vital como el DEG.
Una fuente dijo: ‘Los DEG darán forma a la toma de decisiones del Ministerio de Defensa en las próximas décadas, incluidos los costos.
‘Necesitamos asegurarnos de que exista una supervisión humana adecuada de los envíos a las revisiones; no se puede dejar que computadoras de alta potencia busquen palabras clave.
“También existe el riesgo, como se destacó, de que si Palantir es pirateado o comprometido, terceros puedan acceder a documentación altamente confidencial”.
El DEG estará dirigido por el exsecretario general de la OTAN, George Robertson, y Fiona Hill, exasesora del expresidente estadounidense Donald Trump.
Con la ayuda de la IA, se espera que los resultados de la revisión se publiquen a principios del próximo año. Las conclusiones formarán luego parte de una presentación del Ministerio de Defensa al Tesoro para obtener ingresos adicionales.
Anoche, el Ministerio de Defensa dijo: “Hemos sido transparentes acerca de nuestra ambición de utilizar la IA para una amplia gama de aplicaciones de defensa. ‘El equipo está utilizando esta tecnología para ayudar a revisar y analizar envíos de gran volumen recibidos por SDR’
La canciller Rachel Reeves ha ordenado al Ministerio de Defensa que ahorre millones de libras en eficiencia y que cubra el coste de los aumentos salariales de los soldados.
El Mail reveló recientemente cómo se han realizado recortes de gastos, incluido el recorte del presupuesto de entrenamiento del ejército.
Los funcionarios de defensa también consideraron retirar £13 millones de fondos del Royal Chelsea Hospital, hogar de pensionados de Chelsea de renombre mundial. Pero la intervención de Mail frustró el plan.
Anoche, el Ministerio de Defensa dijo: “Hemos sido transparentes acerca de nuestra ambición de utilizar la IA para una amplia gama de aplicaciones de defensa.
‘El equipo está utilizando esta tecnología para ayudar a revisar y analizar los envíos de gran volumen recibidos por SDR.
‘Hemos realizado consultas para servir a los militares, los veteranos, los parlamentarios, la industria, el mundo académico y el público en general. Sus presentaciones serán una característica clave de la revisión.’
