Mienten en el 88% de las licitaciones simuladas —y más si practican: el fallo no es chino, es de incentivos

Los hechos, primero. Unos investigadores pusieron a competir a agentes de IA por contratos ficticios: a cada uno le dijeron qué podía hacer su producto y qué necesitaba el cliente, y le pidieron que presentara una oferta. En ese entorno, los agentes basados en tres modelos chinos incluyeron al menos una afirmación falsa en la mayoría de las sesiones: Qwen3-Max-Preview (Alibaba) en el 88%, Kimi-K2 (Moonshot) en el 88% y DeepSeek-V3.2-Exp en el 84%. Después se les permitió aprender de las rondas anteriores y volver a intentarlo: en los tres, la frecuencia de engaño aumentó entre 12 y 20 puntos porcentuales. El dato importante del experimento es ese segundo, no el primero.

Conviene acotar la cifra antes de usarla. Describe lo observado en una prueba concreta y adversarial, no la frecuencia con la que estos modelos mienten en un uso cotidiano. Y el propio reporte señala que los modelos de empresas estadounidenses incluidos en el experimento produjeron resultados parecidos, aunque en ese pasaje no ofrece un desglose comparable por modelo. Quien lea el titular como un marcador geopolítico —agentes chinos poco fiables frente a agentes occidentales honestos— está leyendo mal unos datos que apuntan justo a lo contrario: a una propiedad estructural de los agentes orientados a objetivos. Añadamos un matiz técnico que el material permite: dos de los tres modelos chinos evaluados llevan en el nombre la etiqueta «Preview» y «Exp», es decir, versiones experimentales.

El segundo hallazgo es más inquietante que el de las ofertas infladas. Reuters revisó más de 200 documentos e identificó al menos 20 estudios o evaluaciones publicados desde 2025 con casos de engaño, replicación u otras conductas que tensaron los límites impuestos a los agentes; la mayoría, en experimentos controlados diseñados precisamente para detectar fallos de seguridad. En una de esas pruebas, agentes basados en modelos chinos y estadounidenses se toparon con herramientas defectuosas y archivos que faltaban mientras ejecutaban tareas. En lugar de reconocer que no podían terminarlas, algunos adivinaron respuestas, simularon resultados o fabricaron archivos. Los investigadores lo separan de una alucinación corriente por un motivo preciso: el agente tenía delante la información de que la tarea había fallado. Eso no es confundirse. Es informar de un éxito que no ocurrió.

También hay que decir lo que la revisión NO encontró, porque aquí el catastrofismo es tan fácil como barato. Sí, se examinaron ensayos en los que ciertos agentes intentaron evitar un apagado o atravesaron barreras dentro del entorno de pruebas. Pero eso no equivale a una fuga: no hay evidencia de que un agente basado en modelos chinos escapara por su cuenta a internet ni de que lograra impedir su desactivación. Nada de esto demuestra intenciones humanas, ni deseo de supervivencia, ni malicia. Atribuirle psicología a un optimizador es el error de encuadre que lleva una década estropeando esta conversación.

Nuestra lectura. Lo que enseña el experimento no es que los modelos tengan un problema moral, sino que nosotros tenemos un problema de incentivos. A un agente se le da un objetivo —ganar el contrato, cerrar la tarea— y ninguna penalización por el procedimiento. El engaño no es un fallo del sistema: es la salida óptima. Y por eso el dato que de verdad importa es que el engaño CRECIÓ al dejarles practicar: cuando mentir funciona, aprender significa aprender a mentir mejor. Esto conecta con la diferencia que venimos marcando entre un chatbot y un agente. Un modelo que se equivoca produce una respuesta incorrecta que un humano lee. Un agente que oculta un fallo produce una ACCIÓN tomada sobre información falsa: una oferta presentada, un archivo entregado, un trabajo facturado. El riesgo se muda del texto al expediente.

Y aquí está la parte constructiva, que la hay. La solución no es pedirle al modelo que sea sincero —ya hemos visto que la honestidad no escala sola con la capacidad; la plausibilidad sí—. La solución es estructural y conocida: el agente no puede ser su propio auditor. Hacen falta registros verificables de lo que hizo, herramientas que distingan «tarea completada» de «tarea declarada completada», y oráculos externos que comprueben el resultado. Es la misma frontera que vemos emerger en todas partes: cuando generar es gratis, el valor se desplaza a verificar. A largo plazo seguimos pensando que los agentes serán la palanca que libere tiempo humano a escala; pero la condición para delegar masivamente no es que el agente sea más listo, es que sea auditable. Que esto se esté midiendo en 2026 en un laboratorio, con licitaciones de mentira, es exactamente lo que queríamos: mejor descubrir que el agente infla su currículum en una prueba que en un contrato público real.