No os dejéis engañar: los LLM no razonan, según un creador de AlphaGo

El artículo es una columna de opinión publicada en MIT Technology Review el 2 de octubre de 2026 y firmada por Thore Graepel, catedrático de aprendizaje automático en el University College de Londres y miembro histórico del equipo de AlphaGo en Google DeepMind. Su tesis central es tajante: los grandes modelos de lenguaje (LLM) actuales, incluidos los que generan largas cadenas de "razonamiento" antes de responder, no razonan en el sentido en que lo haría un científico, y confundir fluidez verbal con pensamiento deliberativo es un error que puede resultar peligroso en campos de alto riesgo como la medicina o la investigación científica.

Para argumentarlo, Graepel recupera un episodio que vivió en primera persona: la partida de marzo de 2016 en Seúl en la que AlphaGo se enfrentó al campeón de Go Lee Sedol. En la segunda partida del encuentro, el programa jugó la célebre "jugada 37", una piedra colocada en la quinta línea del tablero que a los comentaristas les pareció tan extraña que algunos la tomaron por un fallo de programación. No lo era: AlphaGo acabó ganando esa partida y el enfrentamiento completo por 4-1. Lee Sedol declaró después: "Pensaba que AlphaGo se basaba en el cálculo de probabilidades y que era una simple máquina. Pero cuando vi esa jugada, cambié de opinión. AlphaGo es sin duda creativo".

El autor recuerda también el precedente de Deep Blue, que en 1997 venció al entonces campeón mundial de ajedrez Garry Kasparov calculando entre seis y ocho jugadas por adelantado y evaluando 200 millones de posiciones por segundo mediante reglas programadas a mano por humanos. El Go, sostiene, es un juego de una complejidad muy superior: calcular siquiera una fracción de los desenlaces posibles llevaría a un superordenador miles de millones de años. Por eso AlphaGo necesitaba "intuir" de un vistazo quién iba ganando e incluso inventar jugadas que ningún humano había jugado antes.

Aquí está el punto que Graepel quiere corregir: buena parte de los relatos sobre la jugada 37 la presentan como un destello de pura intuición de máquina, pero según él se trata de un malentendido. Lo que produjo esa elección creativa fue, en realidad, la capacidad de razonamiento de AlphaGo, no su intuición. AlphaGo combina dos sistemas: una "red de políticas" entrenada para adivinar qué jugaría un humano fuerte —el componente "intuitivo", que consideraba la jugada 37 poco prometedora, con apenas una probabilidad entre 10.000 de ser jugada por un experto— y una maquinaria de búsqueda que evaluaba las consecuencias futuras de las jugadas candidatas construyendo y explorando un árbol de juego con miles de ramas. Fue esa búsqueda, no la intuición, la que eligió la jugada 37.

Graepel traza un paralelismo explícito con la distinción, popularizada por Daniel Kahneman, entre el sistema 1 (rápido, instintivo, sin esfuerzo) y el sistema 2 (lento, deliberativo, paso a paso) del pensamiento humano: las redes neuronales de AlphaGo aportaban las corazonadas y la búsqueda aportaba la deliberación, poniendo a prueba esas corazonadas frente a las jugadas y contrajugadas futuras. Ninguno de los dos componentes funcionaba por separado: la intuición sola jamás habría escogido la jugada 37, y la fuerza bruta sola se habría perdido entre todas las jugadas posibles.

Frente a ese diseño de doble sistema, el autor sostiene que los LLM actuales operan de un modo radicalmente distinto. Un modelo de lenguaje predice el siguiente token una y otra vez, lo que equivale, en sus palabras, a un sistema 1 en acción: rápido, asociativo y sorprendentemente bueno completando patrones en casi cualquier materia sobre la que la gente escribe. Poco después del lanzamiento de ChatGPT, recuerda, el campo entendió que la fluidez del lenguaje no bastaba por sí sola, y la respuesta fue dotar a los modelos de "cadenas de pensamiento" (chain of thought): en vez de responder de inmediato, generan pasos intermedios que descomponen el problema y arrastran resultados parciales. Los avances derivados de esta técnica son reales, sobre todo en matemáticas y programación, pero Graepel insiste en que no introducen un mecanismo de razonamiento genuinamente distinto, como sí hacía la búsqueda de AlphaGo: el razonamiento intermedio lo sigue generando el mismo proceso de predicción de siguiente token, simplemente iterado más tiempo antes de que el modelo se decante por una respuesta.

El artículo detalla tres carencias concretas que, según el autor, impiden calificar de "razonamiento" lo que hacen hoy los chatbots, al menos en el sentido que reconocería un científico. Primero, estos modelos no mantienen un estado epistémico explícito, persistente e inspeccionable: no existe un registro abierto de las hipótesis que se están considerando, el grado de confianza en cada explicación, la evidencia que se está sopesando y las preguntas que quedan abiertas, revisado de forma sistemática a medida que llega nueva información. Segundo, no hay una separación limpia entre lo que el sistema sabe y cómo manipula ese conocimiento: ambos quedan entrelazados en los pesos de la red neuronal, sin un conjunto de creencias representado de manera independiente y explícita. Tercero, y quizá lo más inquietante, la investigación ha mostrado que las cadenas de pensamiento que exhiben los chatbots a menudo se elaboran a posteriori: el modelo llega a una respuesta por un camino, pero informa de otro distinto, es decir, racionaliza después de haber decidido.

Para Graepel esto no es un detalle académico. En aplicaciones de alto riesgo —diagnóstico médico, ingeniería, investigación científica— no solo importa a qué conclusión llega un sistema, sino cómo llega a ella. Cuando se produce un error, por ejemplo en un diagnóstico o tratamiento médico, hace falta poder identificar su origen: si el fallo estuvo en el razonamiento del sistema, en que se apoyó en evidencia inválida o en que partió de supuestos incorrectos. Sin un rastro auditable, esa distinción es imposible.

Es precisamente esta convicción, afirma el propio autor, la que le llevó a dejar recientemente su puesto en Google DeepMind: cree que hace falta un enfoque nuevo del razonamiento de las máquinas que recupere la arquitectura de AlphaGo. Su propuesta es que, igual que AlphaGo mantenía su árbol de juego —una estructura de datos con todas las variantes y futuros posibles que había considerado, anotados con los juicios de sus redes neuronales— un sistema de razonamiento general debería mantener un "estado epistémico" que represente qué se da por asentado, qué se duda, qué se ha descartado y qué preguntas siguen abiertas. El razonamiento sería entonces una secuencia de "movimientos" que modifican ese estado epistémico para avanzar en el conocimiento y reducir la incertidumbre: deducir consecuencias, descomponer problemas en partes y, de forma crucial, decidir qué pregunta formular, qué cálculo realizar o qué experimento ejecutar a continuación.

Graepel reconoce que razonar en el mundo abierto es mucho más difícil que jugar al Go o al ajedrez: el estado actual de las cosas solo se conoce parcialmente, el abanico de acciones disponibles es amplio y variable, y las consecuencias de esas acciones son a menudo inciertas o desconocidas. Aun así, sostiene que los avances recientes en LLM y otros modelos neuronales ya proporcionan herramientas para abordar ese tipo de problemas: los LLM pueden sugerir formas de atacar un problema a partir de lo que se sabe y de los recursos disponibles, interactuar con herramientas externas vía API o código, y ayudar a valorar si una afirmación está respaldada por evidencia. Lo decisivo, subraya, es que una parte independiente del sistema evalúe cada "movimiento" por cuánto reduce realmente la incertidumbre, actualizando las creencias solo cuando el cambio esté respaldado por evidencia. Con esas reglas en vigor, el modelo podría acumular conocimiento certificado y mejorar su propia política de razonamiento aprendiendo de experiencias de razonamiento pasadas. El propio autor resume la idea como "el método científico con esteroides", orientado a producir conocimiento capaz de resistir el escrutinio.

La columna cierra con una advertencia dirigida a la industria: no se llegará a una inteligencia artificial fiable simplemente agrandando el sistema 1. La escala afina la intuición, pero no la convierte en deliberación. La jugada 37 importó porque una máquina sostuvo una posición, sopesó futuros posibles y escogió la jugada que su instinto artificial probablemente habría descartado. Según Graepel, la sociedad necesita ese tipo de movimientos creativos en campos como el descubrimiento de fármacos, los nuevos materiales, el clima o el diagnóstico médico, terrenos donde el "tablero" no se parece en nada al del Go y donde nadie nos entrega las reglas de antemano. Esas aportaciones, concluye, solo llegarán de sistemas cuyas conclusiones surjan de una secuencia auditable de evidencia, inferencia y revisión de creencias, y no de un relato convincente contado después de los hechos.