El paso del prompt al 'loop': por qué la IA agéntica es un problema de gobernanza, no solo de ingeniería

Aviso importante: el contenido descargado de este artículo de Enrique Dans en Fast Company está cortado por el muro de suscripción (aparece el aviso "Expand to continue reading ↓" tras apenas cuatro o cinco párrafos). Por tanto, lo que sigue es un resumen breve, ceñido estrictamente a lo poco que se puede leer del texto, sin especular sobre el desarrollo posterior del argumento que el autor probablemente construye a partir de ahí.

Dans arranca situando el momento actual de la IA generativa en una transición de paradigma. Durante los dos últimos años, dice, la unidad básica de trabajo con IA ha sido el prompt: un humano escribe una instrucción, el modelo responde, y la calidad del resultado dependía de aprender a formular bien esa petición (tono, ejemplos, restricciones). Esto dio lugar a lo que llama "la primera disciplina folk de la era de la IA generativa": la ingeniería de prompts, que encajaba con la experiencia inicial de la mayoría de usuarios —una persona, un modelo, una petición, una respuesta.

El artículo sostiene que esa fase está terminando. Cita un reportaje de Business Insider que describe el auge del "loop engineering" (ingeniería de bucles): la práctica de diseñar bucles que permiten a los agentes de IA seguir trabajando, verificando, reintentando y coordinándose entre sí sin esperar a que un humano emita cada instrucción de forma manual. Según Dans, los ejemplos que se suelen dar de este fenómeno son mayormente técnicos —agentes de programación, agentes revisores, subagentes, flujos de trabajo automatizados—, pero el cambio de fondo, advierte, es mucho más amplio que el desarrollo de software: la unidad de valor de la IA se está desplazando de la respuesta puntual al bucle continuo.

Este desplazamiento, argumenta el autor, debería captar la atención de directivos, reguladores y consejos de administración, porque en el contexto de una corporación un bucle no es simplemente un patrón de ingeniería: es una estructura de gobernanza. La distinción clave que plantea es conceptual y muy potente: un prompt pide un resultado (output); un bucle crea comportamiento (behavior). Y esa diferencia, según Dans, lo cambia todo en términos de riesgo y responsabilidad.

La idea que cierra el fragmento disponible es la más sugerente de todo el texto: un prompt puede estar equivocado y simplemente desaparecer sin mayor consecuencia; un bucle, en cambio, puede estar equivocado y ese error se acumula (compound), porque el bucle observa, actúa, recibe retroalimentación, ajusta y repite el ciclo una y otra vez. Precisamente esa capacidad de retroalimentarse es lo que hace a los bucles agénticos tan potentes —y, subraya Dans, también peligrosos si las organizaciones no entienden bien qué es exactamente lo que están optimizando cuando delegan comportamiento continuo, y no solo respuestas puntuales, en sistemas de IA.

Aquí se corta el contenido accesible. El artículo probablemente continúa desarrollando por qué esto exige nuevos marcos de gobernanza corporativa y regulatoria —auditoría continua de comportamientos emergentes, mecanismos de corrección de errores acumulativos, supervisión de agentes que operan con autonomía prolongada—, pero no podemos afirmar con certeza cuál es el argumento completo ni las recomendaciones concretas de Dans sin acceso al resto del texto, que queda detrás del muro de pago de Fast Company.