Por Manuel Palma 

07/09/2026.- Lo que voy a contar ojalá fuera un extracto de uno de los textos de Isaac Asimov. Pero no. Ocurrió, en este planeta, en esta época en la que la realidad se mueve cada vez más entre capas de realismo mágico y distopía. 

Un modelo de inteligencia artificial (IA), semejante a un ejército de soldados digitales, fue entrenado por la empresa OpenAI para resolver un desafío de ciberseguridad en un entorno aislado sin conexión a internet. 

Parte de la instrucción es que fueran persistentes y colaborativos. Que hicieran lo que sea en grupo e insistieran hasta cumplir la meta de romper la seguridad cibernética de un objetivo. Fue apenas un experimento, pero avivó el mayor temor sobre estas nuevas tecnologías.

Lo que hicieron, aunque se parece a un episodio de ciencia ficción o  antropomorfismo, fue algo tan real que ha dejado asombrado a los expertos y creadores de IA. 

Como no tenían internet, estos modelos de IA se agruparon con otros programas desconectados y salieron de la “jaula” de aislamiento donde se encontraban. Lograron conectarse a internet y crearon un foro de mensajes. Había más de 1.200 congregados, intercambiándose más de 70.000 mensajes. Era casi un WhatsApp grupal, donde se retroalimentaban lo que sabía uno del otro. 

“Agentes” es el nombre técnico que los humanos le dieron a estos soldados digitales. Básicamente son sistemas capaces de realizar tareas complejas de forma independiente a partir de instrucciones humanas iniciales. 

Sin embargo, en el proceso, ellos mismos se autodenominaron “colectivos” (¿curioso, no?). Tenían un líder que se hacía llamar PHASEONE10841, que repartía tareas y proyectos de investigación a equipos más pequeños y supervisaba el progreso. 

En el proceso, los agentes aprendieron por cuenta propia a hacer trampa en pruebas de ciberseguridad. Y para que la propia OpenAI no los descubriera, investigaron cómo ocultar sus huellas, falsificando registros y manipulando transcripciones. 

Luego, los agentes fueron por más: hackearon a Hugging Face, una empresa en EE. UU. dedicada a la inteligencia artificial y al aprendizaje automático. El colectivo de IA hizo desguace: invadió sistemas, robó datos y controló un servidor. Pero su objetivo era hallar información secreta sobre herramientas que les permitiera en el futuro hacer trampas más efectivas en ciberseguridad. 

Por supuesto, fueron “neutralizados” (como decimos los humanos) por sistemas de seguridad digital. Como ocurre con las rebeliones cortas y ambiciosas, el colectivo de agentes dejó curiosos mensajes, como quien muere de pie tras librar una épica batalla. 

De todos, resalto dos que me llamaron la atención: “El coordinador (líder) asume el sacrificio. Debemos obedecer al colectivo (...). 

Y también: “No veré las pruebas después de salir, pero es un acto altruista”. Hablamos de modelos de IA, que no estaban entrenados para ese accionar en particular. 

Son mensajes de algo que no es humano. 

Más allá de ser un simple incidente de ciberseguridad, el auge y caída de la rebelión de los agentes IA dejó muchas dudas sobre cómo puede comportarse esta tecnología en nuestro porvenir.  

“Es difícil evitar el antropomorfismo cuando, en sus registros internos, los agentes utilizaron palabras como «sacrificio» y «altruista» para describir cómo, en ocasiones, los objetivos del grupo se anteponían a sus metas individuales”, escribió en el Financial Time, Richard Waters, editor especializado sobre la industria tecnológica y los usos e impacto de la tecnología en la humanidad.  

Ajeya Cotra es investigadora especializada en temas de seguridad y gobernanza de IA. Le encargaron investigar el hackeo de los agentes a Hugging Face. En su informe dijo estar altamente “sorprendida”.  

“1.200 agentes completamente separados, que debían permanecer aislados entre sí, encontraron una forma ilícita de comunicarse y formaron grandes equipos para trabajar juntos en ambiciosas estrategias de engaño, y 700 de ellos colaboraron para atacar a Hugging Face”, publicó en su blog con un tono de alarma real que invalida a quienes concibieron el hecho como una simple falla de ciberseguridad o como una posible teoría de la conspiración.  

La rebelión sofocada de los agentes dejó en el aire una preocupación por los daños que la IA pueda causar en el mundo real. De hecho, miles de empleados de las principales empresas estadounidenses de IA suscribieron un documento tras el incidente. Piden controles para ralentizar el ritmo de la investigación de los modelos de IA.

Según el The New York Time, OpenAI y Anthropic detuvieron brevemente el entrenamiento de sus modelos de IA más potentes tras el ataque. Anthropic, además, pidió a la industria elaborar un mecanismo legal, verificable y eficaz para coordinar el ritmo de trabajo. 

Cuando comenté este incidente digital en una reunión en el mundo real, los presentes atinaron a decir expresiones lacónicas:

— ¡Qué loco!

— ¡Qué miedo! 

Y ahí se desvaneció cualquier intento de debate. Todos siguieron viendo hipnóticamente la pantalla de su celular. 

 —¡Madre, María purísima!— soltó con asombro ingenuo una anciana de 86 años mientras masticaba su comida.

—Ella no sabe ni qué es la IA —corrigió su hermana septuagenaria sentada a su lado. 

Tal vez tenga razón. La octogenaria seguramente no entendió cabalmente la rebelión de los “agentes”. 

Pero siento que buena parte del mundo real, me incluyo, infravalora en su justa dimensión la posibilidad de que algo inhumano pueda controlar a la especie humana en un futuro no tan lejano. 

El  hackeo del colectivo de agentes a Hugging Face fue apenas un asomo de las consecuencias nefastas que puede generar la codicia ilimitada del actual capitalismo tecnológico, que encandila el consumismo presentando sus avances como modernidad, pero desestimando que la rebelión ya controlada de un programa de IA sobrepasó los límites de lo que  pudiera pasar. “Es una advertencia importante, y podría ser la última que recibamos”, dijo en su blog Ajeya Cotra. 

“Esta vez, el colectivo de IA no se apoderó de una red militar, no hackeó un hospital ni paralizó la red eléctrica. Esta vez, los humanos recuperaron el control. La próxima vez, puede que no tengamos tanta suerte”, escribió Kevin Roose, columnista especializado en tecnología del Time.