Gartner: los agentes de IA necesitan barandillas y dueños con nombre, no solo políticas de gobernanza

Por The National CIO Review · 20 de octubre de 2026.

La analista senior de Gartner Danielle Casey advirtió en un evento de la firma de que las empresas están desplegando agentes de IA cuyo comportamiento no siempre pueden predecir ni controlar. Lo comparó con conducir por carreteras desconocidas sin quitamiedos. Según la crónica de The National CIO Review, su tesis es que no basta con políticas de gobernanza: hacen falta responsables claros, controles en varias capas y evaluación continua.

Según el resumen del medio, Gartner subraya que los agentes (sistemas de IA que actúan con cierta autonomía para completar tareas) se distinguen del software tradicional en tres cosas: operan con distintos grados de autonomía, abren nuevos riesgos de seguridad y privacidad, y pueden resultar cada vez más caros de escalar.

Las recomendaciones, tal como las recoge la fuente:

• Separar la gobernanza (políticas, derechos de decisión, rendición de cuentas, supervisión) de la gestión tecnológica (elegir herramientas, integrarlas, implantarlas). Y gobernar lo que se usa hoy, no escenarios hipotéticos. • Barandillas en cuatro capas: técnica, administrativa, estratégica (con implicación de la dirección) y de interacción con el exterior. Casey destacó el riesgo compuesto en flujos multiagente, donde la información que pasa de un agente a otro puede generar exposiciones de privacidad o seguridad inesperadas. • Para cada agente: objetivos definidos, criterios de éxito medibles, evaluación continua y un «código de conducta» análogo al de los empleados, con procedimientos de escalado o un «kill switch» (interruptor de apagado) ante fallos. • Contra la proliferación de agentes, periodos de prueba tras los cuales se retiran los que no aportan valor. • Ciclo de vida formal (desarrollo, despliegue, monitorización, retirada), con registros de actividad y evidencias documentadas.

El calendario propuesto es inmediato para aclarar quién decide, redactar el código de conducta y definir el escalado; a 90 días, para implantar las barandillas por capas, los periodos de prueba y el ciclo de vida; y a un año, para reforzar la supervisión y ligarla a resultados de negocio. El objetivo declarado es la «velocidad agéntica»: innovar rápido sin perder control.

Nuestra lectura. Lo más valioso del planteamiento no es la lista, sino la distinción entre gobernanza y barandillas. Una política escrita no detiene a un agente que se sale del guion; un límite técnico sí. Esto conecta con algo que ya hemos defendido: aprobar permisos con un clic es fatiga, no control, y la seguridad real nace del diseño, con mínimo privilegio por defecto y límites que el agente no pueda saltarse.

También nos parece acertada la idea de los periodos de prueba. Convierte al agente en algo parecido a un empleado nuevo: se le mide, se le da un objetivo y, si no rinde, se le retira. Es una respuesta pragmática al «agent sprawl» y al coste, que es el otro freno silencioso de esta tecnología.

Matices. Es un resumen periodístico de una charla, no un informe con datos: no hay cifras de incidentes ni evidencia de que estas medidas funcionen. En general, los marcos de consultoras tienden a ser sensatos pero genéricos, y su valor depende de cuánto se traduzcan en controles concretos. Y el riesgo multiagente, que Casey solo apunta, es probablemente la parte menos resuelta.

A corto plazo, la transición hacia empresas pobladas de agentes será desordenada: errores, fugas de datos, costes que se disparan. Pero ese rodaje es precisamente lo que construye la confianza necesaria para delegar tareas cada vez más complejas. Si el camino hacia la abundancia pasa por agentes que trabajen por nosotros, merece la pena que empiecen con quitamiedos.