Anthropic abre la puerta a METR: evaluadores externos con acceso de empleado, y el matiz está en quién puede publicar

Por BankInfoSecurity · 16 de octubre de 2026.

Anthropic integrará a evaluadores independientes en su proceso de seguridad. Según el medio, personal de METR (organización que evalúa riesgos de modelos de IA de frontera) tendrá «acceso similar al de un empleado» a los modelos antes de su despliegue, según explicó la propia Anthropic en un blog.

El dispositivo, según lo descrito, es concreto: seis empleados de METR con acceso a hardware, oficinas y herramientas internas «aproximadamente al nivel» de los equipos de evaluación de riesgos de Anthropic. Se anima al personal de Anthropic a compartir información con ellos, salvo «un pequeño número de categorías claramente definidas», como los datos de clientes. El equipo de METR dentro de Anthropic será reducido y estará aislado del resto de METR.

La cláusula clave está en la publicación. METR publicará su propio análisis de los niveles de riesgo y las prácticas de Anthropic. Según el artículo, Anthropic no puede vetarlo y solo puede pedir que se retire cierta información.

METR detalla qué necesita para evaluar el alineamiento (que el modelo haga lo que sus desarrolladores pretenden). Habla de dos fases: encuestas sobre incidentes observados y pruebas en escenarios hipotéticos simulados, para comprobar si el proceso de entrenamiento podría estar ocultando señales de desalineamiento. Para ello pide acceso a estados guardados del entrenamiento, transcripciones y conjuntos de datos, código e infraestructura, entrevistas con el personal y acceso por API.

El coste ayuda a dimensionar el reto. METR afirma que, al investigar el incidente entre Hugging Face y OpenAI, gastó unos 400.000 dólares en créditos de API en seis días, y estima que una investigación rigurosa de dos meses con ese alcance costaría más de 10 millones. En aquel caso, según el artículo, ni METR ni su socio Redwood Research tuvieron acceso directo a la infraestructura de OpenAI.

Anthropic plantea además un sistema de tres niveles. En el primero, los evaluadores hacen investigaciones de alcance limitado y Anthropic decide qué pueden ver y publicar. En el segundo hay más información, pero Anthropic mantiene el derecho a retirar categorías, y los evaluadores pueden publicar su opinión sobre si las redacciones estaban justificadas. El tercero, donde está hoy METR, ofrece acceso de empleado. Anthropic dice que otras alianzas están en fases muy tempranas, con información y derechos de publicación más limitados.

Nuestra lectura: la tesis es que la confianza en la seguridad de la IA no puede descansar en el autoinforme de los laboratorios, y este movimiento es un paso en la dirección correcta. Una evaluación sin acceso a los estados de entrenamiento ni a la infraestructura es, en la práctica, una evaluación de la fachada. El derecho de publicación sin veto es lo que convierte el acceso en rendición de cuentas.

Aun así, conviene el matiz. Son seis personas, en una sola relación de nivel tres, y la propia Anthropic admite que el resto de evaluadores tendrá menos acceso y menos derechos. Además, el límite sobre qué se redacta sigue siendo una decisión de Anthropic. La cifra de 10 millones de dólares apunta a otro problema: auditar a fondo es caro, y solo unas pocas organizaciones pueden permitírselo.

En general, este tipo de compromisos llega en un contexto de presión política: según el artículo, Anthropic y OpenAI firmaron en la Casa Blanca un compromiso que incluye posibles alianzas con investigadores independientes. Es previsible que el modelo de niveles se convierta en un estándar de facto, con el riesgo de que el nivel superior quede reservado a los evaluadores más cercanos al laboratorio.

Es el tipo de infraestructura institucional que necesitamos a corto plazo, mientras llegan modelos más capaces y los riesgos son reales. A largo plazo, la promesa de una IA que ayude a erradicar enfermedades y generar abundancia solo es creíble si podemos verificar, con ojos ajenos, que esos sistemas hacen lo que dicen. La prueba será ver el primer informe de METR y cuánto se redacta.