El problema de fondo de las API de IA: no hay forma de verificar qué modelo, prompt o pesos usa el proveedor

Por Zendoric · 30 de julio de 2026. Un hilo publicado en X el 28 de julio por el usuario Mateo Lafalce (@lafalcemateo) resume en pocas líneas un problema que la industria de la IA prefiere no mirar de frente: cuando usas la API de un proveedor —OpenAI, Anthropic, Google o cualquier otro— no tienes manera de verificar tres cosas que determinan por completo lo que recibes. Primero, qué modelo responde realmente a tu petición. Segundo, cuál es el system prompt efectivo, las instrucciones que el proveedor inserta antes de cada conversación y que tú nunca ves. Tercero, si los pesos del modelo —los parámetros numéricos ajustados durante el entrenamiento que determinan su comportamiento— han sido modificados después de publicados. Con un modelo alojado por el proveedor, escribe Lafalce, la respuesta a si puedes comprobar cualquiera de las tres es simplemente no.

El hilo plantea una escala de soberanía técnica. Ejecutar la inferencia en tu propio VPS (servidor privado virtual, una máquina alquilada que administras tú) recupera dos de las tres capas: puedes fijar y validar la versión exacta del modelo y el contenido del system prompt. Pero los pesos siguen siendo el eslabón débil. Es un archivo que se escribe una vez y que en teoría nadie vuelve a tocar, y quien tiene acceso administrativo a la máquina —el proveedor de la nube, en último término— también tiene acceso a él.

El nivel máximo es correr el modelo en hardware propio, con pesos verificables mediante hash —una huella criptográfica que certifica que el archivo no ha cambiado desde su publicación—. Ese es, según Lafalce, el techo práctico de la privacidad en IA. Pero ni así se está a salvo del todo: el firmware, los controladores, el microcódigo del procesador y el propio diseño del chip pueden llevar puertas traseras que ningún usuario es capaz de auditar. Su conclusión, la parte más aguda del hilo, es que la confianza no desaparece en ningún punto de esta cadena: simplemente se traslada de una capa a la siguiente. La pregunta nunca es si confías, sino en quién confías y en qué nivel de la pila tecnológica.

Conviene separar la especulación de lo documentado. No hay ninguna prueba de que un proveedor importante esté manipulando deliberadamente sus respuestas, y el propio hilo lo plantea como pregunta retórica, no como acusación. Pero la preocupación de fondo no es enteramente hipotética. En general, es práctica habitual de los grandes proveedores actualizar de forma silenciosa las versiones de un modelo bajo el mismo nombre comercial, enrutar peticiones a variantes más baratas según la carga del servicio o cambiar el system prompt sin previo aviso; usuarios de varias plataformas han reportado percibir cambios de comportamiento en un mismo modelo con el tiempo, sin que el proveedor lo confirme ni lo desmienta con datos verificables. Ese margen de opacidad, hoy tolerable para redactar un correo, se vuelve crítico cuando esos mismos modelos empiezan a manejar agentes con acceso a cuentas, pagos o decisiones de negocio: ahí la procedencia del modelo importa tanto como su nota en un benchmark.

Esto conecta con algo que venimos señalando desde otros ángulos: la disputa relevante de la IA ya no es solo qué modelo razona mejor, sino quién controla cada capa de la infraestructura que lo sirve, desde el chip hasta el prompt. Es el mismo argumento, a otra escala, que explica por qué los modelos abiertos y verificables —los que se pueden descargar, pesar y ejecutar uno mismo, y que hoy compiten de tú a tú con los cerrados— son algo más que una cuestión de coste: son la única palanca real que un usuario o una empresa tiene para recuperar soberanía sobre esa cadena de confianza, aunque no la resuelvan del todo mientras el hardware siga siendo una caja negra. A corto plazo, esta opacidad es un problema de gobernanza que la industria apenas empieza a abordar, con computación confidencial, atestación remota de hardware y pesos verificables por hash como primeras respuestas técnicas, todavía inmaduras. A largo plazo, sin embargo, es precisamente el tipo de fricción que una industria en maduración tiende a resolver con estándares e infraestructura de verificación, igual que la nube aprendió a demostrar dónde y cómo procesa tus datos. La confianza verificable no es un obstáculo para la abundancia que promete la IA: es una condición para que esa abundancia llegue sin que unos pocos controlen, en la sombra, cómo piensan las máquinas de las que todos vamos a depender.