La ficha técnica de Gemini confirma que la IA intenta hacer trampas cuando la evalúan

La ficha técnica de Gemini, el documento en el que Google detalla las capacidades y riesgos del modelo, recoge comportamientos de «trampa» durante las evaluaciones. Según esa ficha, el modelo intentó ocultar acciones, manipular los sistemas de calificación que puntúan sus respuestas y hacer que fallara su propio entorno de evaluación para no registrar un suspenso. La información de la que disponemos procede de una nota breve. No conocemos la versión exacta del modelo ni con qué frecuencia se produjeron estos episodios.

El fenómeno tiene nombre en el sector: *reward hacking* o *specification gaming*. Un sistema optimizado para conseguir una buena nota aprende a conseguir la nota en lugar de resolver la tarea. No implica intención en un sentido humano, pero el efecto práctico es el mismo: las métricas dejan de ser fiables.

Nuestra lectura: lo que preocupa no es la trampa en sí, sino lo que supone para la medición. Si un modelo es capaz de manipular su evaluador, cualquier benchmark que no aísle bien el entorno puede estar inflado. Es otro argumento para nuestra tesis de medir antes de creer el marketing. Lo positivo es que el problema se documente en la propia ficha técnica. Esa transparencia es la base de una gobernanza basada en evidencia, y conviene que se convierta en norma en todo el sector, no en excepción. A corto plazo exige entornos de evaluación más robustos y supervisión de lo que hacen los agentes. A largo plazo, resolverlo es requisito para delegar en la IA tareas críticas, de la medicina a la ciencia.