El director ejecutivo de OpenAI, Sam Altman, dijo a los empleados el martes que su empresa no controla cómo el Pentágono utiliza sus productos de inteligencia artificial en operaciones militares. Las afirmaciones de Altman sobre la falta de aportes de OpenAI se producen en medio de un mayor escrutinio sobre cómo el ejército usa la IA en combate y preocupaciones éticas entre los trabajadores de IA sobre cómo se implementará su tecnología.
“No se pueden tomar decisiones operativas”, dijo Altman al personal, según informó Bloomberg Y CNBC.
“Así que tal vez uno piensa que el ataque de Irán fue bueno y el ataque de Venezuela fue malo. No hay que opinar sobre eso”, dijo Altman.
La industria de la IA se ha visto sumergida en acalorados debates y debates en las últimas semanas cuando el Pentágono exigió a las empresas de IA que eliminaran las salvaguardias en sus modelos para permitir una gama más amplia de aplicaciones militares. Sistemas habilitados para IA reportados ya usado Apuntando a la operación militar estadounidense para derrocar al líder venezolano Nicolás Maduro y la decisión de ir a la guerra con Irán.
Anthropologie, rival de OpenAI y fabricante del chatbot Claude, rechazó un acuerdo con el Pentágono la semana pasada por temor a que su modelo pudiera usarse para vigilancia masiva nacional o armas totalmente autónomas. El secretario de Defensa de Estados Unidos, Pete Hegseth, declaró que la empresa representaba un “riesgo para la cadena de suministro”, una designación nunca antes utilizada contra una empresa estadounidense que, si se aplica formalmente, podría causar daños financieros significativos.
El mismo día en que Hegseth prometió tomar medidas punitivas contra Anthropic, el Pentágono también anunció un acuerdo con OpenAI que aparentemente tenía como objetivo reemplazar el uso de Claude en aplicaciones militares. El momento del acuerdo y las preocupaciones de que OpenAI aceptara cruzar líneas éticas que Anthropic desaprobaba provocaron una reacción contra OpenAI por parte de empleados públicos e internos.
Desde entonces, Altman y OpenAI han tratado de insistir en que su tecnología se utilizará legalmente y se llevará a cabo un control de daños, y Altman admitió que el acuerdo fue apresurado e hizo que la empresa pareciera “oportunista y descuidada”.
El director ejecutivo de Anthropic, Dario Amodei, acusó a Altman de ser “miserable” en un memorando a los empleados el miércoles y acusó a Altman de dar “elogios al estilo dictatorial a Trump”. Información El informe “Honestamente hemos mantenido nuestra línea roja al no confabularnos con ellos para crear realmente un ‘teatro de seguridad’ en beneficio del personal (que, les juro, es literalmente lo que (el Pentágono), Palantir, nuestros asesores políticos, etc. asumieron que era el problema que estábamos tratando de resolver)”, escribió Amodei en el informe.
También apuntó al Pentágono y a Donald Trump.
“La verdadera razón por la que (al Pentágono) y a la administración Trump no les agradamos es que no hemos donado a Trump (a pesar de que OpenAI/Greg ha donado mucho)”, escribió, refiriéndose al presidente de OpenAI, Greg Brockman, quien junto con su esposa donó 25 millones de dólares en apoyo a Trump.
