Anthropic desarrolla FlashProve, un sistema criptográfico para demostrar qué modelo de IA generó una respuesta

Anthropic trabaja en un sistema de código abierto para verificar qué modelo de IA produjo una salida concreta, según una entrada de blog publicada el martes y recogida por TechCrunch. El sistema se llama FlashProve y busca ofrecer lo que los investigadores denominan «inferencia demostrable» (provable inference): una prueba criptográfica, esencialmente una garantía matemática, de que una respuesta procede de un modelo específico. La idea es que un usuario pueda confirmar que la respuesta recibida viene realmente del modelo que cree estar utilizando.

La analogía que se ofrece es la de las firmas criptográficas del correo electrónico, que permiten al destinatario comprobar que un mensaje procede del remitente declarado. Según el artículo, FlashProve sería robusto frente a impostores que intenten hacer pasar un modelo por otro, incluso cuando el impostor sea el propio laboratorio que construyó y opera el modelo.

Entre los usos que plantean los investigadores figura impedir que una empresa de IA sustituya en secreto un modelo por otro más barato para recortar costes, o por uno más caro para inflar sus resultados de rendimiento. También serviría para verificar afirmaciones de terceros sobre qué modelo realizó una tarea. Los investigadores ponen como ejemplos que un desarrollador diga que su biblioteca de software fue analizada en busca de vulnerabilidades por un modelo de ciberseguridad de frontera, o que una empresa afirme que su plan de negocio recibió el visto bueno de un modelo adecuado, y se preguntan: «¿Cómo puede un usuario verificar estas afirmaciones?».

Para funcionar, el sistema exige que los laboratorios publiquen una «huella» (fingerprint) de cada modelo que lancen, que luego pueda cotejarse con salidas concretas y verificarse criptográficamente. Un punto clave es que esas huellas no revelan los pesos del modelo, los números internos que definen su comportamiento y que fabricantes de modelos cerrados como Anthropic y OpenAI mantienen privados. Así, los laboratorios podrían publicar las huellas sin renunciar a su activo más valioso, lo que permitiría aplicar el sistema también a modelos comerciales. Además, está diseñado para ser ligero, de modo que la verificación pueda realizarse en un dispositivo local.

Junto con el anuncio, los investigadores publicaron una especificación técnica detallada y código funcional de varios elementos del sistema, disponibles públicamente en GitHub bajo licencia de código abierto.

Conviene tener en cuenta el alcance real: la investigación sigue en curso y, según el artículo, no hay planes de desplegar el sistema en Anthropic ni en ningún otro laboratorio. Los propios investigadores explican que la publicación pretende «compartir progresos intermedios, y no una agenda de investigación completada», y que la comparten explícitamente para que otros «la tomen y la mejoren».