Poner límites a tu IA ya cuesta contratos: un tribunal avala al Pentágono para vetar a Anthropic

El Circuito de Apelaciones de Washington D.C. falló el viernes, por dos votos contra uno, que la administración Trump puede excluir a Anthropic de todos los contratos del Pentágono. Según la información publicada por POLITICO y distribuida por la red de Axel Springer, el tribunal concluyó que el Departamento de Defensa tenía motivos suficientes para clasificar los productos de la compañía como un «riesgo de cadena de suministro», la etiqueta legal reservada a proveedores que comprometen la seguridad nacional.

Lo excepcional del caso es el motivo. El riesgo que identifica el fallo no es una vulnerabilidad, ni una filtración, ni la propiedad extranjera de la empresa: es que Anthropic programa límites dentro de sus modelos. «Como admite Anthropic, la compañía codifica restricciones en Claude que impiden al modelo realizar tareas que Anthropic desea evitar», escribió el tribunal, que añadió que el Departamento «tenía amplio respaldo» para concluir que seguir integrando Claude en sus sistemas —y en los de sus contratistas— suponía un riesgo cubierto por la ley. Anthropic ha declarado públicamente que no permitirá que sus productos se usen para armas autónomas ni para vigilancia doméstica masiva. La compañía sostiene, según el mismo relato, que la designación le genera un «estigma reputacional» y le costará cientos de millones de dólares en ingresos.

El precedente pesa más que la factura. El instrumento del «riesgo de cadena de suministro» se diseñó pensando sobre todo en proveedores de propiedad extranjera; la decisión lo extiende con claridad a empresas estadounidenses y, sobre todo, lo desacopla del criterio técnico. Si la premisa es que un producto que se niega a hacer ciertas cosas es por definición poco fiable para la misión, entonces cualquier política de uso aceptable —de cualquier proveedor, de software o de hardware— es materia designable. Conviene precisar lo que el material no dice: el fallo fue dividido, dos a uno, y la información disponible no detalla los siguientes pasos procesales ni el contenido del voto discrepante.

El impacto inmediato es sobre los incentivos de todo el sector, no sobre una sola empresa. Hasta ahora, el coste de mantener líneas rojas voluntarias era reputacional y comercial difuso; a partir de aquí es contractual y cuantificable. Un laboratorio que pondera si restringe usos militares autónomos o vigilancia masiva ya sabe que esa decisión puede traducirse en una exclusión administrativa. Y hay una ironía operativa: en nuestro índice de Calidad Zendoric los modelos de frontera siguen siendo mayoritariamente estadounidenses y con fuerte inversión en seguridad —Fable 5 encabeza la calidad general y GPT-5.6 lidera las tareas duras de ciberseguridad—, de modo que penalizar precisamente la capa de salvaguardas no amplía el catálogo del comprador, lo estrecha o lo empuja hacia alternativas menos auditadas.

Nuestra lectura: este caso es el reverso exacto del que venimos siguiendo con los controles de exportación. Allí el Estado usaba la ley para impedir que un modelo saliera del país; aquí la usa para castigar que un modelo se niegue a entrar en ciertos usos. En ambos casos la conclusión es la misma que venimos defendiendo: el autocontrol voluntario de los laboratorios no es un sistema de gobernanza sostenible. No es verificable desde fuera, no es uniforme entre competidores y, como demuestra esta sentencia, tampoco es jurídicamente estable. Lo que decide una empresa por convicción puede deshacerlo un tribunal por doctrina. La alternativa seria no es menos seguridad, sino trasladarla de la política interna de cada compañía a una norma pública, con auditoría independiente y criterios explícitos sobre qué usos están vedados —para todos y con la misma vara.

A corto plazo esto es un mal dato y no vamos a maquillarlo: penaliza a quien pone frenos y premia a quien no los pone, justo cuando la IA agéntica empieza a tener capacidad real de acción sobre sistemas críticos. A largo plazo seguimos pensando que el vector es otro: la misma tecnología que aquí se disputa como activo de defensa es la que está acortando los ciclos de descubrimiento biomédico y abaratando el acceso a capacidades que hace cinco años eran exclusivas de grandes organizaciones. Pero llegar a esa abundancia exige que las reglas del uso legítimo las escriba un proceso democrático y contrastable, no la letra pequeña de un contrato ni la sensibilidad de un departamento. Esta sentencia es un recordatorio de que ese marco todavía no existe.