¿Dejará la IA de inventarse cosas? Por qué la meta no es cero alucinaciones, sino una máquina que sepa decir «no lo sé»

NUESTRA TESIS. La IA no dejará nunca de equivocarse del todo. Ningún sistema que aprende de datos incompletos puede acertar siempre, y tampoco lo hacen los humanos. Pero esa no es la pregunta útil. La pregunta útil es si la IA aprenderá a avisar cuando no sabe y a enseñar de dónde saca lo que dice. Ahí el progreso es real y medible. Nuestra lectura: la alucinación (que un modelo de lenguaje genere información falsa presentada como cierta) depende tanto de cómo premiamos a los modelos como de los modelos mismos. Por eso tiene arreglo parcial. Y gestionarla bien es una condición para el gran horizonte de la IA en medicina y ciencia, no un detalle menor.

POR QUÉ INVENTA. Un modelo de lenguaje no consulta una base de datos. Predice la siguiente palabra más plausible a partir de los patrones que vio al entrenarse. Si un dato aparece muchas veces en sus textos de entrenamiento, como la capital de Francia, lo «sabe». Si aparece una sola vez, como el cumpleaños de una persona poco conocida, el modelo no tiene patrón al que agarrarse, pero sigue produciendo una respuesta con buena pinta. El artículo de OpenAI «Why language models hallucinate» (Kalai y otros, septiembre de 2025) añade una segunda causa, más reveladora. Las evaluaciones que deciden qué modelo es «mejor» puntúan casi siempre solo los aciertos. Pasa como en un examen tipo test sin penalización: contestar al azar puntúa más que dejar la pregunta en blanco. OpenAI lo explica con un ejemplo. Si el modelo adivina un cumpleaños, acierta una vez de cada 365. Si dice «no lo sé», saca un cero seguro. Con esas reglas, entrenar para subir en las clasificaciones es entrenar para adivinar. El remedio que proponen los autores no es crear más pruebas de alucinación. Es cambiar la puntuación de las pruebas que ya existen: castigar más el error seguro que la duda y dar puntos parciales a quien reconoce que no sabe. Nuestra lectura: es la misma familia de problemas que la adulación de los chatbots. No es un fallo puntual. Es un incentivo de entrenamiento que empuja en la dirección equivocada, y como tal se puede corregir.

NO TODOS LOS ERRORES SON IGUALES. Llamamos «alucinación» a cosas distintas, y conviene separarlas porque cada una se corrige de una manera. Primero están los datos inventados: una fecha, una cifra o una biografía que el modelo no conocía y rellenó. Segundo, las citas falsas: referencias, sentencias o artículos con formato perfecto que no existen. Es el tipo más peligroso, porque parece verificable. Tercero, los errores de razonamiento: los datos de partida son correctos, pero la cadena lógica falla en algún paso. Cuarto, los errores de fidelidad a la fuente: el modelo tiene el documento delante y aun así lo resume mal o le añade cosas que no dice. El benchmark HalluLens (presentado en la conferencia ACL 2025) formaliza esta distinción. Llama alucinación «intrínseca» a la que contradice lo que el usuario le ha dado. Llama «extrínseca» a la que no se apoya ni en el contexto ni en lo aprendido. Sus autores critican además que muchas pruebas mezclan alucinación con simple falta de conocimiento. Nuestra lectura: cuando un titular dice «el modelo X alucina un 30%», la primera pregunta es qué tipo de error se mide y en qué prueba. Sin eso, la cifra no significa casi nada.

LO QUE SÍ HA MEJORADO. Hay tres avances con datos detrás. El primero es la búsqueda con fuentes, conocida como RAG (generación aumentada por recuperación: el modelo busca documentos antes de responder y se apoya en ellos). Según la ficha técnica de GPT-5 que publicó OpenAI, su modelo de razonamiento baja del 40% de respuestas erróneas en preguntas factuales difíciles sin internet a alrededor del 4,5% con navegación activada, frente al 12,7% de o3 en las mismas condiciones. El segundo avance es la calibración, es decir, que el modelo se abstenga cuando no sabe. En la prueba SimpleQA (preguntas breves con una única respuesta verificable), y según esa misma ficha técnica recogida por varios medios, gpt-5-thinking-mini acierta un 22%, algo menos que o4-mini, que acierta un 24%. Pero se equivoca en el 26% de las preguntas, frente al 75% de o4-mini, porque contesta «no lo sé» mucho más a menudo. Es exactamente el cambio que pedía el artículo de 2025: acertar un poco menos y engañar mucho menos. El tercer avance es la interpretabilidad, la disciplina que estudia qué pasa dentro del modelo. Anthropic describió en 2025 que en uno de sus modelos la respuesta por defecto es negarse a contestar. Esa negativa solo se desactiva cuando el modelo reconoce algo que conoce. La alucinación aparece cuando un nombre le suena familiar sin que sepa nada de él. Entender el mecanismo es el primer paso para poder corregirlo. Ahora el matiz: RAG ayuda, pero no es una vacuna. El estudio de Stanford y Yale «Hallucination-Free?», revisado por pares en 2025, midió herramientas jurídicas comerciales basadas en RAG. Lexis+ AI alucinó en un 17% de las consultas y la herramienta de Westlaw en un 33%. Fueron menos errores que con GPT-4 a secas, pero muy lejos de lo que su marketing prometía. Thomson Reuters, dueña de Westlaw, afirma que sus pruebas internas dan tasas más bajas. Además, esas versiones ya se han renovado.

LA PARADOJA DEL RAZONAMIENTO. Cabría esperar que los modelos que «piensan» paso a paso antes de responder se equivocaran menos. No siempre es así. En la ficha técnica de o3 y o4-mini (abril de 2025), OpenAI informó de que en su prueba interna PersonQA, con preguntas sobre personas, o3 alucinaba en un 33% de los casos y o4-mini en un 48%, frente al 16% de su predecesor o1. La empresa reconoció que hacía falta más investigación para entender la causa. Su hipótesis es que o3 hace más afirmaciones en total, así que acierta más y también inventa más. En la tabla de Vectara, que mide la fidelidad al resumir documentos, DeepSeek-R1 registró un 14,3% de alucinaciones frente al 3,9% de DeepSeek-V3, su versión sin razonamiento. Vectara concluyó que la culpa no era del razonamiento en sí. R1 tiende a «ayudar de más» y añade información que no está en el texto, aunque a veces sea cierta. En los modelos de OpenAI y Google, las diferencias que encontró Vectara fueron mínimas. Nuestra lectura: más capacidad no equivale automáticamente a más fiabilidad. Un modelo más ambicioso se arriesga más, y sin incentivos para abstenerse, ese riesgo se convierte en errores. Hay otra trampa en la dirección contraria: un modelo que se niega mucho puede parecer muy fiable en las tablas. La tasa de alucinación siempre hay que leerla junto a la tasa de respuestas.

EL PRECIO REAL. Las consecuencias ya no son anécdotas. El caso fundacional fue Mata contra Avianca, en Nueva York (2023): dos abogados fueron multados con 5.000 dólares por presentar sentencias inventadas por ChatGPT. Desde entonces, la base de datos colaborativa del investigador Damien Charlotin había reunido a mediados de 2026 más de 1.600 resoluciones judiciales en todo el mundo. En cada una, un tribunal constató o dio a entender que una parte se había apoyado en material inventado por IA. Unas 1.100 son de Estados Unidos, y aproximadamente la mitad corresponden a personas que litigan sin abogado. En 2025, Deloitte aceptó devolver parte de un contrato de unos 440.000 dólares australianos al Gobierno de Australia. Un informe sobre el sistema de prestaciones sociales contenía referencias inexistentes y una cita inventada de una sentencia federal. La consultora sostiene que esos errores no alteraron las conclusiones. Nuestra lectura: en estos casos falló la herramienta, pero sobre todo falló la supervisión. Igual que en los incidentes de seguridad con agentes que hemos analizado, el problema es de gobierno. Nadie verificó lo que firmaba.

IMPLICACIONES. A corto plazo, la alucinación es un riesgo serio y conviene no maquillarlo. Afecta a profesiones de alta responsabilidad como el derecho, la consultoría, el periodismo o la sanidad. Golpea más a quien tiene menos recursos para verificar, como quien litiga sin abogado. Tres consecuencias prácticas: verificar cada cita y cada cifra antes de usarla; preferir herramientas que enlacen sus fuentes; y desconfiar de cualquier proveedor que prometa «cero alucinaciones», porque ninguna prueba independiente lo respalda. Hay una consecuencia para el sector: mientras los rankings premien solo el acierto, los laboratorios seguirán teniendo un incentivo para entrenar modelos que adivinan. Cambiar cómo se puntúan los modelos es una reforma tan importante como cualquier avance técnico. Ahora el largo plazo, que es donde somos optimistas. Los humanos también nos equivocamos, y no por eso renunciamos a la ciencia. Inventamos la revisión por pares, las auditorías y la doble firma. Con la IA ocurrirá lo mismo: modelos calibrados, fuentes trazables y verificación automática entre sistemas. Esa combinación es la que permitirá confiar en la IA para diagnosticar, diseñar fármacos o acelerar la investigación. Una IA que distingue lo que sabe de lo que intuye, y lo dice, vale más que una IA que lo sabe todo con aplomo. Esa es la IA que puede ayudarnos a erradicar enfermedades. No la que nunca falla, que no existirá, sino la que sabe cuándo puede fallar y lo avisa.