¿Los guardarraíles de la IA agéntica siguen el ritmo de sus agentes?

Por McKinsey & Company · 2026 (la fuente no detalla la fecha exacta de envío).

El correo, parte de la serie de alertas 'Nuevo de McKinsey & Company', se centra en la pregunta de si los guardarraíles (guardrails) de seguridad para agentes de IA están evolucionando al mismo ritmo que la autonomía de dichos agentes. McKinsey advierte de que los agentes de IA suelen confundirse con chatbots más capaces, pero a diferencia de estos, pueden razonar, planificar y actuar de forma autónoma, lo que abre la puerta a mayor productividad pero también introduce un nuevo conjunto de riesgos.

El socio de McKinsey Rich Isenberg compara a los agentes de IA con niños pequeños (toddlers), en un episodio reciente de 'The McKinsey Podcast'. Según su analogía, si le dices a un niño pequeño que corra por un pasillo y se detenga antes de las escaleras, puede que lo haga... o puede que siga corriendo. La solución, según Isenberg, es poner una puerta de seguridad ('baby gate'): para los agentes de IA, eso significa controles que no puedan saltarse.

El correo cita un dato concreto: el 80% de las organizaciones afirma haber detectado comportamientos de riesgo en sus agentes de IA, incluyendo exposición indebida de datos y acceso no autorizado a sistemas. A partir de ahí, McKinsey plantea que las organizaciones necesitan una propiedad clara sobre ese riesgo y un registro de lo que hacen los agentes, y subraya que los guardarraíles deben integrarse en los propios sistemas, en lugar de dejar que cada equipo los aplique por su cuenta.

El mensaje enlaza a varias piezas adicionales de McKinsey sobre el tema, entre ellas: 'Trust in the age of agents', sobre cómo la IA agéntica ya está tomando decisiones y actuando de forma autónoma; 'Deploying agentic AI with safety and security: A playbook for technology leaders', un manual para líderes tecnológicos sobre riesgos y vulnerabilidades de los agentes autónomos; 'The board's role in managing emerging AI risks', con perspectivas de ejecutivos de ciberseguridad y consejeros de administración; 'State of AI trust in 2026: Shifting to the agentic era', con resultados de la encuesta de McKinsey sobre madurez de confianza en IA de 2026, que revela avances en madurez pero también brechas persistentes en estrategia, gobernanza y gestión de riesgos; 'The speed problem: How frontier AI exposes weakness in enterprise cybersecurity', sobre cómo los atacantes ya operan 'a velocidad de máquina' mientras las organizaciones deciden 'a velocidad de comité'; y 'Evolving model risk management in the age of AI', sobre cómo los bancos están adaptando sus marcos de gestión de riesgo de modelos ante la adopción acelerada de IA.

El correo está editado por Bryce Stewart, editor de McKinsey en Múnich, y cierra con los enlaces habituales para gestionar la suscripción, darse de baja y seguir el contenido de McKinsey en sus aplicaciones móviles.