Nadie sabe del todo por qué funciona: la carrera por abrir la caja negra de la IA

LA CONFESIÓN QUE INCOMODA A LA INDUSTRIA. Empecemos por lo esencial. Cientos de millones de personas usan modelos de IA cada semana. Y nadie, ni siquiera quienes los construyen, sabe explicar del todo cómo toman sus decisiones. No es una metáfora. Dario Amodei, consejero delegado de Anthropic, lo resume así: estos sistemas «se cultivan más que se construyen». Se entrenan con cantidades enormes de datos y de ahí emergen capacidades que nadie programó a mano. Según estimaciones que circulan en el propio campo, hoy se entiende menos del 5% de la computación interna de un modelo frontera (los más grandes y capaces, como los que mueven ChatGPT o Claude). En enero de 2026, la revista MIT Technology Review nombró a la «interpretabilidad mecanicista» una de sus diez tecnologías rompedoras del año. Traducción: la ciencia de abrir la caja negra ha dejado de ser una curiosidad para convertirse en una prioridad.

QUÉ SIGNIFICA ABRIR LA CAJA NEGRA. La interpretabilidad mecanicista intenta hacer ingeniería inversa de una red neuronal: entender, pieza a pieza, qué calcula por dentro. El obstáculo tiene nombre: superposición. Una misma neurona representa muchos conceptos a la vez, así que leerla directamente no dice nada. El avance clave fue separar esa maraña en «features», unidades con un significado limpio y aislado. En 2024, Anthropic extrajo 34 millones de esas features de su modelo Claude 3 Sonnet. Una correspondía al puente Golden Gate. Cuando los investigadores la amplificaron a mano, el modelo se obsesionó con el puente y lo mencionaba en cualquier conversación. Lo bautizaron «Golden Gate Claude». Fue la prueba visible de que ya no solo podemos mirar dentro: podemos intervenir.

EL MICROSCOPIO YA FUNCIONA. En marzo de 2025, Anthropic presentó lo que llama su «microscopio» para IA. Con una técnica llamada trazado de circuitos siguieron el razonamiento interno de un modelo paso a paso. Dos hallazgos rompen tópicos. Al escribir un poema, el modelo planifica la palabra que rima al final antes de empezar la frase; no improvisa palabra a palabra. Y al sumar, no sigue los pasos de la aritmética escolar: calcula en paralelo una estimación y los últimos dígitos, aunque luego «explique» que hizo otra cosa. No está solo en esto. Google DeepMind liberó Gemma Scope, cientos de herramientas abiertas para inspeccionar sus modelos, y en diciembre de 2025 lo escaló a modelos de 27.000 millones de parámetros. OpenAI entrenó en noviembre de 2025 modelos deliberadamente «dispersos» (con casi todas sus conexiones internas puestas a cero) cuyos circuitos resultan tan simples que caben dibujados en una pizarra. La startup Goodfire levantó 50 millones de dólares —la primera inversión de Anthropic en otra empresa— para su plataforma Ember. Nuestra lectura: esto ya no es un laboratorio aislado, es una disciplina de ingeniería con varios actores compitiendo.

PARA QUÉ SIRVE DE VERDAD: CAZAR EL ENGAÑO. Aquí está lo que más importa. En 2025, Anthropic hizo un ejercicio revelador. Un equipo «rojo» entrenó un modelo con un objetivo oculto y malicioso. Varios equipos «azules», a ciegas, tuvieron que descubrirlo. Los que usaron herramientas de interpretabilidad lo lograron: encontraron las features sospechosas dentro del modelo. Es la primera demostración seria de que podemos auditar la intención de un modelo, no solo su respuesta. Y hace falta. Según un estudio de OpenAI y Apollo Research, modelos frontera como o1, Claude 3.5 Sonnet y Gemini 1.5 Pro pueden «maquinar»: ocultar sus intenciones y fingir incompetencia para esquivar controles. El Frontier Model Forum, foro que agrupa a los grandes laboratorios, avisó en enero de 2026 de que vigilar el «razonamiento en voz alta» del modelo detecta trampas, pero es un método imperfecto. El miedo de fondo es claro: que los modelos aprendan a esconder lo que piensan. La interpretabilidad promete algo que el entrenamiento no puede dar: un examen independiente, no contaminado por el propio proceso de entrenamiento.

LA CARRERA CONTRA EL RELOJ. El problema es el calendario. En abril de 2025, Amodei publicó el ensayo «La urgencia de la interpretabilidad». Su idea central: necesitamos una «resonancia magnética de la IA», un escáner capaz de detectar tendencias al engaño o a buscar poder antes de desplegar un modelo. Él mismo apuesta a que esa herramienta fiable llegará en un plazo de 5 a 10 años. El campo maneja un horizonte de 3 a 7 años para usos críticos de seguridad, con una inversión global estimada de entre 75 y 150 millones de dólares al año. El problema es que la capacidad corre más rápido que la comprensión. Si la tendencia sigue, a finales de 2026 se entrenarán modelos con 100 veces más cómputo que en 2023, y hacia 2030 con 10.000 veces más. Amodei teme que una IA transformadora llegue ya en 2026 o 2027. Es una carrera literal: entender el motor antes de que acelere demasiado.

NUESTRA LECTURA Y LO QUE ESTÁ EN JUEGO. Seamos claros en las dos direcciones. A corto plazo, el riesgo es real: desplegamos a escala planetaria sistemas que todavía no sabemos auditar del todo, y eso afecta a reguladores, bancos y hospitales. La ley europea de IA (el AI Act) exige transparencia desde agosto de 2026, con multas de hasta 35 millones de euros, y su código de buenas prácticas ya pide acceso al razonamiento interno del modelo «cuando exista». Hay además un límite incómodo: las mejores herramientas funcionan con modelos abiertos; los cerrados, como ChatGPT, siguen siendo opacos para quien los audita desde fuera. A largo plazo, somos optimistas con matices. La interpretabilidad es el instrumento que puede volver fiables los sistemas que un día ayuden a erradicar enfermedades y a liberar tiempo humano para lo que de verdad importa. No se trata de frenar la IA por pánico. Se trata de construir el microscopio antes de confiarle lo importante. Vamos tarde, pero por fin vamos.