Tres jóvenes españoles construyen un verificador de IA que prefiere no responder antes que inventar una fuente

Por Zendoric · 26 de julio de 2026.

Tres jóvenes profesionales españoles —Malen Aguirre, Mencía González-Haba y Luis Bravo, de la empresa Logixs— han desarrollado Trustbrief, una herramienta que comprueba si una cita, un dato o un artículo normativo realmente existe en la fuente que dice citar, antes de dárselo por bueno al usuario. Lo han contado en el programa "Lo que viene" de COPE, con José Ángel Cuadrado. El proyecto nació tras ganar el primer premio de un hackathon organizado por el Gobierno de España a través de la SEDIA (Secretaría de Estado de Digitalización e Inteligencia Artificial) en Zaragoza, un premio que llevó al equipo a presentar su desarrollo en la sede de la ONU en Nueva York, en un encuentro con participantes de entre 12 y 40 años de distintos países.

La lógica de Trustbrief, todavía en fase de desarrollo según sus propios creadores, es sencilla de explicar y poco habitual en el sector: en lugar de optimizar para responder siempre, optimiza para callar cuando no hay certeza. El sistema busca un consenso interno sobre si una cita o un dato pertenece de verdad a un informe o documento concreto y, si las fuentes no coinciden o no encuentra la información, no ofrece respuesta. Para lograrlo, según ha explicado Malen Aguirre, el modelo se nutre exclusivamente de tres bases de datos: una de UNICEF, una europea y otra de la ONU que estará disponible en septiembre. Es, en la práctica, una versión estricta de lo que la industria conoce como RAG (retrieval-augmented generation, o generación aumentada por recuperación): restringir las respuestas del modelo a un conjunto cerrado y verificable de documentos, en vez de dejar que responda con lo que "recuerda" de su entrenamiento.

El problema que Trustbrief intenta resolver no es menor. Luis Bravo ha sido tajante: "la IA es muy potente, es muy buena, pero se equivoca mucho". Según ha señalado, sobre todo a nivel de normativa, "casi siempre un 70% de los casos se inventa artículos, se inventa citas" cuando se pregunta a un modelo por textos legales o reglamentarios. La cifra es una estimación de los propios creadores del proyecto, no un estudio académico contrastado, pero apunta a un patrón bien documentado en el sector: los modelos generativos tienden a "alucinar" —inventar datos con la misma seguridad con la que dan uno correcto— precisamente en los terrenos donde la precisión importa más, como el derecho, la medicina o el periodismo.

Malen Aguirre ha puesto el foco en otro efecto colateral, menos técnico y más generacional: las nuevas generaciones, acostumbradas a respuestas instantáneas, están "perdiendo esa parte de contrastar, de verificar, de tener ese criterio propio". Es una preocupación que conecta con algo que ya veníamos observando en el debate sobre IA y educación: el valor no desaparece del aula, se desplaza hacia quien es capaz de orquestar la herramienta y cuestionar lo que produce, no hacia quien se limita a copiar su respuesta. Un verificador como Trustbrief no sustituye ese criterio; en el mejor de los casos lo entrena, porque obliga a mostrar de dónde sale la respuesta en vez de esconderla detrás de una autoridad artificial.

Hay una frase de Luis Bravo que resume el espíritu del proyecto mejor que cualquier titular: "nosotros comandamos la IA, nosotros la gobernamos, no ella a nosotros". Es, casi palabra por palabra, el principio que empieza a consolidarse en los despliegues de IA de mayor riesgo, del botón nuclear al caza militar: la máquina propone, pero un humano —o, en este caso, un conjunto de fuentes verificadas por humanos— conserva la última palabra. Que esa lógica llegue de un hackathon y no de un comité regulador es, en sí mismo, relevante: la gobernanza de la IA no tiene por qué bajar siempre desde Bruselas o Washington; también puede subir desde un grupo de jóvenes que decide, sin que nadie se lo pida, ponerle límites a su propia herramienta.

Conviene no perder la perspectiva de escala. Trustbrief es, a día de hoy, un prototipo salido de un hackathon, sin cifras públicas de usuarios, sin auditoría independiente de su tasa de acierto y con una cobertura de fuentes todavía limitada a tres bases de datos. Adaptarlo a un sector como la educación, como plantea Mencía González-Haba, exigiría en teoría solo cambiar las fuentes de verificación, pero en la práctica implica construir y mantener bibliotecas de referencia fiables para cada disciplina, un trabajo mucho menos vistoso que entrenar un modelo y bastante más costoso de sostener en el tiempo.

Aun con esa cautela, el caso apunta a algo que nos parece relevante más allá de esta pieza concreta. Si la desinformación generada por IA es, como reconocen sus propios creadores, un problema real de corto plazo —erosiona la confianza en la información y, según advierten ellos mismos, el criterio de quien la consume—, la respuesta más prometedora no pasa por frenar el desarrollo de la tecnología, sino por construir encima de ella una capa de verificación tan rigurosa como potente es la propia IA. Ese es, en el fondo, el patrón que sostiene nuestra tesis de largo plazo: los mismos sistemas que hoy amplifican el bulo son también la herramienta más eficaz para combatirlo, siempre que alguien —en este caso, tres jóvenes que empezaron en un hackathon en Zaragoza— se moleste en ponerle riendas.