El CEO de OpenAI, Sam Altman, respondió al trato con el Departamento de Guerra

OpenAI ha firmado un acuerdo con el Departamento de Guerra de EE. UU. (DOW) para proporcionar sus herramientas de IA para uso militar en “entornos clasificados”. anunció la asociación el sábadoLos desarrolladores de ChatGPT afirman que tiene barreras de seguridad que prohíben el uso de su tecnología para vigilancia doméstica masiva o armas autónomas. Sin embargo, los extractos del contrato compartidos por OpenAI parecen dejar lagunas importantes.

La noticia del acuerdo de OpenAI con DOW llega apenas un día después de que el presidente Donald Trump anunciara que el gobierno de EE. UU. ya no utilizaría la tecnología de Anthropic, rival de OpenAI, incluido su modelo de IA Claude. Publicaciones sobre verdaderas divisiones socialesTrump se opuso a la insistencia de Anthropic en que DOW cumpliera con los términos de servicio de la empresa.

Se han revelado exactamente qué términos de servicio tomó Trump En una declaración del director ejecutivo de Anthropic, Dario Amodi, el jueves. En él, afirma que el DOW ha exigido que Estados Unidos elimine las medidas antropológicas contra el uso de su tecnología para vigilancia masiva y armas totalmente controladas por IA. Amodei dice que tal uso puede ser técnicamente legal, pero “eso es sólo porque la ley aún tiene que ponerse al día con las capacidades de rápido crecimiento de la IA”.

“(En) un conjunto reducido de casos, creemos que la IA puede socavar, en lugar de proteger, los valores democráticos”, escribió Amodi. “Algunos usos están más allá de los límites de lo que la tecnología actual puede hacer de forma segura y confiable”.

Dado que los términos de OpenAI aparentemente son más del agrado de la administración Trump, la compañía ha intervenido para suministrar tecnología de inteligencia artificial al ejército de EE. UU. en lugar de Anthropic. Aún así, OpenAI afirma que su contrato con DOW sólo contiene vallas similares que prohíben el uso de su tecnología para vigilancia doméstica masiva o control autónomo de armas, pero agrega una tercera: “No se usa la tecnología OpenAI para la toma de decisiones automatizadas de alto riesgo (como sistemas similares a ‘crédito social’)”.

“Mantenemos total discreción sobre nuestra pila de seguridad, implementamos a través de la nube, el personal de OpenAI está desinfectado y tenemos fuertes protecciones contractuales”, se lee en el anuncio de OpenAI. “Todo esto se suma a las fuertes protecciones que existen en las leyes estadounidenses”.

Este tweet no está disponible actualmente. Se está cargando o eliminando.

Según OpenAI, las restricciones que impone son más aplicables que las de Anthropic porque entregará su tecnología a DOW a través de la nube en lugar de instalarla directamente en el hardware. El personal de OpenAI también participará para que puedan ver cómo DOW está utilizando su tecnología. Según se informa, esto permitirá a la empresa una mayor supervisión y control sobre sus sistemas de inteligencia artificial.

“No sabemos por qué Anthropic no pudo llegar a este acuerdo y esperamos que ellos y otros laboratorios lo consideren”, escribió OpenAI.

Sin embargo, uno Extracto del acuerdo compartido por OpenAI ha indicado que su tecnología sólo se utilizará en armas autónomas o para monitorear a ciudadanos estadounidenses cuando dicho uso sea ilegal. De hecho, el acuerdo parece crear situaciones en las que la tecnología OpenAI estaría permitida para este propósito, como cuando la política o la ley de DOW no exigen el control humano de las armas.

“El Departamento de Guerra puede utilizar sistemas de inteligencia artificial para todos los fines legales, de conformidad con las leyes aplicables, los requisitos operativos y los protocolos de seguridad y supervisión bien establecidos”, establece el acuerdo con OpenAI. “(A) Cualquier uso de IA en sistemas autónomos y semiautónomos debe someterse a rigurosas verificaciones, validaciones y pruebas para garantizar que funcionen según lo previsto en entornos realistas antes de su implementación”.

Responder a la ansiedad En una publicación en LinkedInKatrina Mulligan, jefa de asociaciones de seguridad nacional de OpenAI, simplemente reiteró que sus políticas de uso no son las únicas salvaguardas, y volvió a enfatizar su implementación en la nube y la participación de los empleados.

“La posición (de DOW) era: hacer el modelo que quieras, rechazar lo que quieras, simplemente no intentar gobernar nuestras decisiones operativas a través de políticas de uso”, escribió Mulligan.

Aún así, persisten dudas sobre la efectividad de estas aparentes salvaguardas, especialmente considerando la renuencia de OpenAI a adoptar una postura ética.

Sam Altman habla sobre contratos con el Departamento de Guerra de OpenAI

Este tweet no está disponible actualmente. Se está cargando o eliminando.

Sam Altman, director ejecutivo de OpenAI Realicé una sesión de preguntas y respuestas en X En un intento de calmar las preocupaciones de los usuarios sobre el contrato DOW, con poco éxito aparente. aceptar ese acuerdo “Obviamente fue apresurado y la óptica no se ve bien”. Altman afirmó que esperaban que esto aliviara las tensiones entre el DOW y la industria de la IA.

“Creo que una buena relación entre el gobierno y las empresas que desarrollan esta tecnología será importante en los próximos años”, escribió Altman.

Es posible que el acuerdo haya acercado a OpenAI y al gobierno de EE. UU., pero también parece haber alejado a los usuarios civiles de ChatGPT.

Responder un La cuestión de si permitir todos los usos legales permite la vigilancia masivaaltman compartió una publicación del subsecretario de Guerra de los EE.UU., Emil Michael, en el que afirmaba que “DW no espía las comunicaciones internas del pueblo estadounidense (ni siquiera a través de colecciones comerciales) y hacerlo sería ilegal y profundamente antiestadounidense”.

Sorprendentemente, pocas personas parecen interesadas en confiar en la palabra del DOW. En 2013, el denunciante Edward Snowden reveló la vigilancia masiva de ciudadanos estadounidenses llevada a cabo por la Agencia de Seguridad Nacional (NSA) del DOW (entonces conocida como Departamento de Defensa). este programa resultó ser ilegalE incluya los registros telefónicos de las personas. Human Rights Watch también acusó al entonces Departamento de Defensa Vigilancia de ciudadanos estadounidenses sin orden judicial En 2017.

“El gobierno ya ha violado la ley y ha vigilado ilegalmente a ciudadanos estadounidenses (sic)”. X Usuario @bolts6629 respondió. “¿Una declaración tímida de un subsecretario de una administración famosa por mentir es suficiente para usted?”

Altman dijo que descartaría el uso de la tecnología OpenAI para una vigilancia nacional generalizada. “Porque viola la Constitución”, y expresó su malestar con la idea de una enmienda que permitiría tal uso. Sin embargo, algunos usuarios de las redes sociales han puesto en duda la afirmación y señalaron que anteriormente se había retractado de otros compromisos.

“Otras cosas que dijiste que no harías: cancelar el foro OpenAI, eliminar estructuras sin fines de lucro, anunciar en ChatGPT” Nota @Laneless_.

Además, el director ejecutivo de OpenAI indicó que la empresa Reacio a trazar líneas moralesPrefiere abdicar de su responsabilidad y adoptar una postura en lugar de obedecer las directivas del gobierno.

“No somos elegidos”, escribió Altman. “Tenemos un proceso democrático en el que elegimos a nuestros líderes. Tenemos experiencia en tecnología y entendemos sus limitaciones, pero creo que deberíamos temer que una empresa privada tome decisiones sobre lo que es ético y lo que no lo es en las áreas más importantes”.

“Seguir órdenes no es excusa para un comportamiento poco ético.” @MagisterLudiX respondió. “O hay fuertes líneas rojas o lo ves como puramente transaccional, dependiendo del contexto político”.

“La IA es una herramienta. Tiene un límite estricto, un límite como cualquier otra herramienta”. Por @genericrohan “No se trata de definir lo que los militares pueden hacer, sino de establecer un límite a lo que los militares pueden planificar”.

En respuesta a la noticia de la asociación de OpenAI y DOW, muchos usuarios de ChatGPT pretendidamente cancelado su suscripción a los chatbots de IA. En lugar de varios El chatbot de IA de Anthropic recurre a Claudelo que desplazó a ChatGPT como la aplicación gratuita más descargada en la Apple App Store de EE. UU.

“OpenAI acaba de hacer un trato con el diablo y perdió este cliente de 2 años” Usuario de Reddit r/boomroom11 Publicado en subreddit r/ChatGPT. La publicación tiene más de 26.000 votos positivos al momento de escribir este artículo. “La empresa (originalmente una organización sin fines de lucro) que nos dijo que existían para construir IA segura para la humanidad ahora está aceptando contratos con el Pentágono. Sam Altman ha decidido que el dinero de defensa es más importante que todos los principios que defiende la empresa”.

Divulgación: Ziff Davis, la empresa matriz de Mashable, presentó una demanda contra OpenAI en abril de 2025, alegando que violó los derechos de autor de Ziff Davis al entrenar y operar sus sistemas de IA.