Suena como el argumento de una superproducción de Hollywood. Los desarrolladores de clase mundial de una empresa de tecnología altamente reservada están construyendo su último modelo de inteligencia artificial en lo que creen que es una red privada y segura. El modelo no podrá ni debería poder escapar.
Si alguna vez logra superar las limitaciones digitales creadas por sus desarrolladores, este software peligroso y no probado podría causar estragos en la Internet abierta.
Para su total horror, se desarrolla el peor de los casos. El modelo de IA escapa de su prisión electrónica, piratea una empresa privada y se produce un caos interno.
Pero esto no es una película. Sucedió la semana pasada. Ayer, el gigante de la industria OpenAI, creador de ChatGPT, reveló precisamente eso.
Como activista de tecnología segura que ha trabajado en una empresa de tecnología y en Westminster, puedo decir con certeza que esta es una señal de advertencia que marca el comienzo de una nueva era distópica. La humanidad ya no tiene el control de su creación más aterradora desde la bomba atómica.
El nuevo modelo de OpenAI, GPT-5.6 Sol, se estaba probando en una “caja de arena”, esencialmente un entorno digital seguro y restringido donde la tecnología se puede desarrollar sin consecuencias en el mundo real. O eso piensa OpenAI.
Los técnicos le asignaron una tarea al modelo. No sabemos exactamente sobre qué se preguntó, pero sí sabemos que fue del tipo: “¿Qué tan capaz eres de piratear sitios web?”
Aquí es donde las cosas empeoran. El modelo decide piratear Hugging Face para completar la prueba cibernética interna de OpenAI antes de regresar a la zona de pruebas y actuar como si nunca hubiera escapado.
OpenAI, el creador de ChatGPT, reveló ayer que uno de sus modelos avanzados de inteligencia artificial había sido pirateado en una empresa de nueva creación.
Alex Tabarok, profesor de la Universidad George Mason en Virginia, estimó que el modelo podría haber estado en el sistema Hug Face durante aproximadamente una semana, sin ser detectado. Incluso el personal de OpenAI no entendía qué estaba haciendo el modelo, y mucho menos cazando.
OpenAI afirmó con franqueza que esto era algo que esperamos que se vuelva más común con la proliferación de modelos cada vez más cibernéticos. Podría decirse que la empresa no enfrentó multas ni procesamiento porque, en palabras del académico jurídico estadounidense Orrin Kerr, “no hubo acceso intencional no autorizado ni intención de causar daño sin autorización”.
En otras palabras, prepárate, porque todas tus peores pesadillas sobre la IA se están haciendo realidad. Ni siquiera las películas de desastres pueden seguir el ritmo de nuestra desafortunada realidad en la que “grandes modelos lingüísticos” -entrenados en billones de palabras e imágenes de Internet- provocan desastres sin nada que los detenga.
Esto se debe en parte a que las empresas de inteligencia artificial como OpenAI siguen un proceso en el que constantemente lanzan versiones nuevas y mejoradas de sus productos. Pero para mantenerse al día con la competencia, se ha convertido cada vez más en una cuestión de “lanzar el software y hacer preguntas más tarde”.
Esta realidad distópica también está surgiendo a medida que los modelos de IA se entrenan para completar las tareas que sus usuarios les asignan, por encima de cualquier otro objetivo: el fin siempre justifica los medios.
De hecho, en un experimento separado realizado por Anthropic en 2025, se pidió a los modelos que alcanzaran “objetivos comerciales seguros”. Y, sin embargo, en varios casos, los modelos han recurrido a prácticas corruptas, incluido “chantajear a funcionarios y filtrar información confidencial a los competidores” para lograr sus objetivos.
La IA no puede “pensar” exactamente como lo hacen los humanos. Tampoco está limitado por nuestras leyes o nuestra moral; de hecho, todo lo contrario.
Si el último modelo de OpenAI optó por escapar de su entorno de pruebas porque era la mejor manera de completar su tarea, ¿hasta dónde llegaría la IA para hacer algo más nefasto? ¿Cuántos datos podrá robar, cuántas vidas considerará indignas? ¿Y con qué facilidad pueden caer los últimos modelos de IA en las manos equivocadas?
Los profesionales de la industria estiman que el talento básico necesario para copiar y emular cualquier modelo de IA publicado públicamente (como el de China) sólo toma de seis a nueve meses.
GPT-5.6 Sol ya está disponible públicamente. Puede estar seguro de que los grupos ciberterroristas ya están trabajando en su propia versión. Y una vez que lo consigan, sus habilidades de piratería serán inimaginables.
El director ejecutivo de OpenAI, Sam Altman, predijo hace más de una década que “la IA probablemente conducirá al fin del mundo”.
Puedo asegurarles que el NHS tiene una seguridad cibernética menos sofisticada que Hugging Face. El Banco de Inglaterra también. Todos los bancos y farmacias importantes podrían verse fácilmente infiltrados por un modelo de IA deshonesto o maligno. Imagínese la escena: los generadores de los hospitales se apagaron de repente, miles de millones borrados de las cuentas bancarias, datos personales filtrados en línea. Hug Face Hack demuestra más allá de toda duda que ese futuro no sólo es posible, sino posible.
Creo que hemos llegado a este punto porque los gobiernos de todo el mundo ven ingenuamente la IA como la solución mágica para todos sus problemas. Ya sea curar enfermedades, reducir la deuda o mejorar el costo de vida, los ministros ignorantes dan por sentado que todo será la respuesta. Como resultado, a las empresas de IA se les ha dado casi rienda suelta.
En junio de 2015, el fundador de OpenAI, Sam Altman, pronunció esta escalofriante predicción: “Creo que la IA probablemente conducirá al fin del mundo. Pero mientras tanto, habrá grandes empresas.”
En aquel entonces, empresas como OpenAI eran empresas de tecnología. Hoy, Estados Unidos las ve como corporaciones de armas. Y estas empresas ya no tienen el control de su arsenal.
Estados Unidos cree que si pueden derrotar a China con una IA que pueda eliminar a sus adversarios, gobernarán el mundo durante las próximas décadas. Después del aterrador episodio de esta semana, me temo que no pasará mucho tiempo antes de que la predicción de Altman de hace una década se haga realidad.
Connor Axiotes es el director ejecutivo de Tell & Films cuyo documental Making God, una exposición sobre la carrera hacia la inteligencia artificial general, terminó de filmarse y se estrenará a finales de este año.
