¿Loro o modelo del mundo? Cinco años después, la pregunta correcta ya no es si la IA «entiende»

LA TESIS. «Solo predice la siguiente palabra» describe bien cómo se entrena un modelo de lenguaje. Describe mal lo que ocurre dentro de él. Y de ninguna de las dos cosas se deduce si «comprende». Nuestra lectura, cinco años después, es que hay que separar tres preguntas que casi siempre se mezclan. Primera: ¿funciona? Sí, y cada vez mejor. Segunda: ¿generaliza fuera de lo que vio al entrenar? A veces, de forma irregular y con fallos medibles. Tercera: ¿comprende en sentido filosófico? Es una pregunta legítima, pero la ciencia actual no puede zanjarla. Además, no es la que decide si la IA nos cambia la vida. La pregunta que importa en la práctica es la segunda. Ahí es donde conviene mirar los datos y no los eslóganes.

EL ORIGEN DEL LORO. La expresión nace en «On the Dangers of Stochastic Parrots», un artículo presentado en la conferencia FAccT en marzo de 2021. Lo firmaron la lingüista Emily M. Bender, la investigadora Timnit Gebru, Angelina McMillan-Major y Margaret Mitchell. Su argumento central: un modelo de lenguaje cose secuencias de palabras según probabilidades aprendidas, sin referencia al significado. «Estocástico» quiere decir aleatorio según probabilidades. El texto tuvo además una historia corporativa: según Gebru y Mitchell, su salida de Google estuvo ligada a ese trabajo; Google dio otra versión de los hechos. Conviene recordar algo que se olvida a menudo. El artículo no era sobre todo un tratado filosófico. Hablaba de riesgos concretos: coste ambiental, sesgos de datos sin filtrar y el peligro de que la gente atribuya intención a un texto que suena fluido. Esos riesgos siguen vigentes. Lo que ha envejecido peor es la metáfora como descripción técnica.

LO QUE HAY DENTRO. La respuesta más sólida a la metáfora llegó de la interpretabilidad, la disciplina que intenta leer qué computa una red por dentro. En 2022, Kenneth Li y otros entrenaron un modelo pequeño, Othello-GPT, solo con listas de jugadas legales del juego Othello. Nunca vio un tablero. Aun así, al sondear sus activaciones (los valores numéricos internos) encontraron una representación del estado del tablero. Lo decisivo: al modificar esa representación, el modelo cambiaba sus jugadas de forma coherente con el tablero alterado. Es una prueba causal, no una mera correlación. En 2023, Wes Gurnee y Max Tegmark mostraron que Llama-2 codifica de forma casi lineal la ubicación geográfica de lugares y la fecha de sucesos históricos. En 2025, Anthropic publicó su trabajo de «trazado de circuitos» sobre Claude 3.5 Haiku. Según la empresa, el modelo encadena pasos intermedios (activa «Dallas está en Texas» antes de responder cuál es la capital del estado de Dallas). También elige la palabra que rimará antes de escribir el verso. Nuestra lectura: «solo predice la siguiente palabra» es tan cierto y tan poco informativo como decir que un ajedrecista «solo mueve piezas». Para predecir bien la siguiente palabra en textos sobre el mundo, compensa construir representaciones del mundo. Eso no es comprensión humana. Pero tampoco es un loro que repite.

LOS FALLOS QUE NO SE VAN. El otro lado de la balanza también tiene datos. La «maldición de la inversión» (Berglund y otros, 2023) mostró que un modelo entrenado con «A es B» no deduce por sí solo «B es A». En su ejemplo, GPT-4 acertaba quién es la madre de Tom Cruise en un 79% de los casos. Pero solo acertaba en un 33% quién es el hijo famoso de esa misma mujer. En 2024, Apple presentó GSM-Symbolic: los mismos problemas escolares de matemáticas con nombres y cifras cambiados. El rendimiento bajaba. Al añadir una frase irrelevante al enunciado, la caída llegaba en algunos modelos hasta el 65%, según los autores. En 2025, el estudio de Apple «The Illusion of Thinking» describió un colapso de los modelos de razonamiento en puzzles como la Torre de Hanói al subir la complejidad. Ese estudio recibió réplicas: algunos críticos atribuyeron parte de los fallos a límites de longitud de respuesta y a puzzles sin solución. Y Subbarao Kambhampati lleva años documentando que, si se disfrazan los nombres en problemas clásicos de planificación, el rendimiento cae. Nuestra lectura: estos fallos no prueban que «no razonan». Prueban que su razonamiento es irregular. Es muy bueno donde el entrenamiento es denso y quebradizo donde la superficie del problema cambia. Es la firma de un sistema que mezcla reglas generales con atajos estadísticos.

EL ARGUMENTO DE CHOLLET. François Chollet, creador de la librería Keras, propuso en 2019 una definición útil: la inteligencia no es lo que sabes hacer, sino la eficiencia con la que adquieres habilidades nuevas a partir de poca experiencia. De ahí nace ARC-AGI, una batería de puzzles visuales fáciles para cualquier persona y diseñados para no poder memorizarse. La historia reciente de ARC resume el debate entero. Los modelos con razonamiento extendido han subido con fuerza en las primeras versiones: trackers independientes sitúan ya por encima del 80% a los mejores sistemas en ARC-AGI-2, aunque esas cifras están pendientes de verificación oficial completa. La fundación respondió con ARC-AGI-3, que usa entornos interactivos tipo videojuego. En su lanzamiento, según The Decoder y la propia ARC Prize, los modelos frontera puntuaron por debajo del 1%, mientras que personas sin entrenamiento previo los resuelven. La propia fundación advierte que sus resultados no deben leerse como prueba de AGI, en ninguna dirección. Nuestra lectura: cada vez que se diseña una prueba «a prueba de memorización», los modelos acaban mejorando en ella. Pero también aparece la siguiente frontera. Eso no es un fracaso de la IA. Es el método científico funcionando: medir la generalización, no proclamarla.

LA HABITACIÓN CHINA E IMPLICACIONES. Queda la tercera pregunta. En 1980, John Searle imaginó a una persona que, encerrada en una habitación, manipula símbolos chinos con un manual sin entender una palabra. En 1990, Stevan Harnad formuló el «problema del anclaje de los símbolos»: ¿cómo adquiere significado un símbolo si solo remite a otros símbolos? Son objeciones serias. Los modelos multimodales y los agentes que actúan en entornos reales las erosionan en parte, pero no las resuelven. Nuestra posición es pragmática. La comprensión no es un interruptor de sí o no. Es un gradiente de capacidades que se puede medir: representar el mundo, transferir lo aprendido y corregir errores. Las implicaciones a corto plazo son concretas. Hay que desconfiar tanto de «es solo autocompletar» (que lleva a infravalorar el impacto en el empleo y en la ciberseguridad) como de «ya razona como un humano» (que lleva a delegar sin supervisión en tareas donde un cambio pequeño lo hace fallar). La regla útil: confiar en la IA donde se ha medido su generalización y vigilarla donde no. A largo plazo somos optimistas. La interpretabilidad está convirtiendo la caja negra en algo que se puede auditar. Un sistema que aprende modelos del mundo, aunque sean imperfectos, es justo lo que hace falta para acelerar la ciencia, desde el diseño de fármacos hasta la biología. Que entienda «como nosotros» quizá nunca se pueda demostrar. Que nos ayude a entender más, empieza a estarlo.