DARPA quiere 100.000 agentes de IA que se coordinen solos en combate: el sueño del enjambre sin cerebro

Los hechos: DARPA ha lanzado DICE (Decentralized Artificial Intelligence through Controlled Emergence), un programa que aspira a financiar las bases teóricas y algorítmicas para coordinar hasta 100.000 agentes de IA de forma descentralizada, capaces de repartirse tareas, negociar entre sí y seguir operando aunque parte del grupo falle. El objetivo declarado es acelerar las decisiones "a velocidad de máquina" en el combate futuro.

El diagnóstico técnico de DARPA es sólido y, de hecho, trasciende lo militar. Los sistemas multiagente actuales dependen de un orquestador central — una centralita que recibe la información y reparte tareas — con dos límites duros: el contexto (un modelo solo puede considerar una cantidad finita de información) y la inferencia (la computación para razonar). En un campo de batalla, ese nodo central es además un punto único de fallo: si se degrada la comunicación o queda comprometido, el error se propaga. La alternativa que plantea DICE es un "mercado de tareas": cada agente evalúa qué parte de la misión puede resolver, se ofrece, y el resto vuelve a circular por consenso. Cuando un agente cae, su tarea simplemente se redistribuye. DARPA lo llama "emergencia controlada" y lo compara con colonias de hormigas o bandadas de aves — coordinación sofisticada sin que ningún individuo entienda el plan completo.

El contexto importa: este es un problema real de la IA agéntica que también afecta a la empresa y a la ciencia. El límite del orquestador central es hoy uno de los cuellos de botella de los sistemas multiagente, y avances en coordinación descentralizada podrían tener usos civiles valiosos — desde logística resiliente hasta redes energéticas. La técnica de "dirección de activaciones" que el proyecto quiere probar apunta, además, a un interés genuino por observar y gobernar el comportamiento interno de los modelos.

Nuestra lectura: aquí conviven la promesa y el vértigo. Un sistema con decenas de miles de agentes que "pueden pensar y actuar por sí mismos", diseñado explícitamente para operar sin un cerebro humano dirigiendo, concentra justo los riesgos de corto plazo que más vigilamos: comportamiento emergente difícil de predecir, delegación de decisiones críticas y — en el peor caso, en un contexto de armas — pérdida de control humano significativo. La propia expresión "emergencia controlada" es un oxímoron honesto: se pide libertad y disciplina a la vez, y nadie sabe todavía dónde queda la frontera.

No es catastrofismo: es un programa de investigación, no un despliegue, y el mérito de DARPA es afrontar de frente un problema técnico legítimo. Pero sí es el terreno donde la gobernanza basada en evidencia se vuelve imprescindible. La misma capacidad que puede hacer más resiliente una red logística puede, sin salvaguardas, industrializar decisiones letales sin supervisión. El listón no debería ser "¿funciona?", sino "¿quién responde cuando el enjambre se equivoca, y qué decisiones no puede tomar nunca una máquina?". Esa pregunta debería ir por delante del algoritmo, no detrás.