DARPA sueña con 100.000 agentes de IA sin cerebro central: el enjambre llega a la guerra

Los hechos, según la convocatoria de DARPA que recoge El Confidencial: la agencia de investigación avanzada del Pentágono ha lanzado DICE (Decentralized Artificial Intelligence through Controlled Emergence), un programa para financiar las bases teóricas y algorítmicas que permitan coordinar hasta 100.000 agentes de IA de forma descentralizada. La tesis técnica es clara: los sistemas multiagente actuales dependen de un orquestador central que reparte tareas, y ese nodo tiene dos límites —contexto e inferencia finitos— además de ser un punto único de fallo. Si las comunicaciones se degradan o el mando queda comprometido, el error se propaga. DARPA propone sustituir la jerarquía por algo parecido a un «mercado de tareas»: cada agente evalúa qué parte de la misión puede resolver, se ofrece y devuelve el resto al grupo; si uno cae, su tarea vuelve a circular sin rehacer el plan.

El concepto que la agencia bautiza como «emergencia controlada» es el corazón —y la parte más resbaladiza— del proyecto. La analogía que usan es la de las colonias de hormigas o las bandadas de aves: ningún individuo comprende el plan completo, pero el conjunto logra una coordinación sofisticada. Para evitar que miles de agentes improvisando se descontrolen, DARPA menciona técnicas como la «dirección de activaciones» y los «vectores de rol», patrones internos reconocibles que permitirían saber qué papel está desempeñando cada modelo. Es interpretabilidad puesta al servicio del control operativo.

El contexto importa para no comprarse el titular entero. DICE, hoy, es una convocatoria de investigación, no un ejército desplegado: financia el desarrollo de fundamentos que aún no existen de forma robusta. La coordinación descentralizada estable de decenas de miles de agentes es un problema abierto, y el propio lenguaje de DARPA —«bases teóricas y algorítmicas»— reconoce que están comprando ciencia, no producto. Conviene distinguir, como siempre, la aspiración de la capacidad demostrada.

Dicho esto, la dirección del viento es inequívoca y encaja con una narrativa que venimos siguiendo: el valor y el riesgo de la IA migran de «el modelo más listo» a la fontanería que coordina a muchos agentes actuando sin humano en el bucle. Ya lo vimos en lo civil —el fin del SaaS por asiento, los agentes que atraviesan sistemas solos— y en lo ofensivo —la industrialización agéntica del fraude y el espionaje—. DICE es esa misma lógica llevada al dominio donde las apuestas son máximas: el uso de la fuerza. El eje del debate no es si la tecnología funcionará, sino quién y cómo la gobierna.

Nuestra lectura: la ambición de DARPA es coherente con la física del combate moderno —quien decide más rápido gana— y esa presión competitiva es real; ignorarla sería ingenuo. Pero «velocidad de máquina» y «emergencia» son precisamente las dos propiedades que más erosionan la supervisión humana significativa. Un enjambre que se autoorganiza por consenso, resistente a fallos y «difícil de predecir» por diseño, es también difícil de auditar, de detener y de responsabilizar cuando algo sale mal. La misma resiliencia que lo hace atractivo militarmente es la que complica trazar la cadena de decisión.

Aquí mantenemos nuestra línea: ni catastrofismo ni euforia. Las mismas técnicas de interpretabilidad y control de roles que DARPA necesita para su enjambre son un bien público que puede hacer toda la IA agéntica más transparente y gobernable, también la que un día ayude a curar enfermedades o gestionar redes energéticas. El reto de corto plazo es exigir que la «emergencia controlada» merezca de verdad la segunda palabra: límites duros, capacidad de veto humano y trazabilidad, no un adorno retórico sobre un sistema diseñado para prescindir del juicio humano justo cuando más caro es equivocarse.