Anthropic reconoce que no tiene plan para alinear la superinteligencia: eso pesa más que el 10%

Evan Hubinger, que dirige uno de los equipos de seguridad de Anthropic, ha estimado públicamente en más de un 10% la probabilidad de que la IA "pueda matar a todos los humanos" en la próxima década, según recoge The Verge. Lo dijo horas después de que Jacob Coxon, investigador que entrenaba sistemas en la compañía y que antes trabajó en OpenAI, anunciara en X su dimisión acusando a ambos laboratorios de "correr directos hacia una superinteligencia auto-mejorable, apostando con nuestras vidas". Hubinger no solo compartió el diagnóstico: añadió que Anthropic "todavía no tiene un plan" para garantizar que una IA avanzada siga alineada con los valores humanos y que "tampoco va claramente camino" de tenerlo.

El núcleo técnico de la discusión es la automejora recursiva: la idea de que un sistema mejore su propio diseño y entre en un bucle que escape al control humano. No está demostrada —el propio artículo lo subraya—, pero las empresas la persiguen activamente y hoy buena parte del código de IA ya se escribe con ayuda de IA. Hubinger afirma que ese proceso "está ocurriendo más rápido de lo que pensábamos". Coxon sostiene que las compañías están "atrapadas en una carrera" y avanzan pese al riesgo. Conviene recordar el detalle que da a la escena su ironía: Anthropic nació precisamente de una escisión de OpenAI motivada por preocupaciones de seguridad.

Seamos precisos con lo que vale y lo que no. Un "más de 1 entre 10" es una probabilidad subjetiva, no una medición: no hay benchmark, ni metodología, ni forma de falsarla. Viaja fenomenal en titulares y no informa casi nada. Aplicamos aquí la misma regla que a los anuncios de capacidad: distinguir lo demostrado de lo declarado. Lo que sí es un hecho verificable y grave es la segunda parte de la frase. Que el responsable de un equipo de seguridad de un laboratorio frontera diga que no existe plan de alineamiento —y que no se está construyendo uno con claridad— es una confesión institucional, no una especulación sobre el futuro.

El momento tampoco es neutro. La escena llega, señala The Verge, mientras estas empresas preparan sus salidas a bolsa y gestionan las consecuencias de incidentes con agentes descontrolados y advertencias sobre la monitorizabilidad de los modelos frontera. Añadamos la escala: Anthropic pasó de unos 9.000 millones de dólares de facturación anualizada a más de 30.000 millones en ocho meses. Cuando el negocio crece a ese ritmo y hay mercados de capital mirando, la presión comercial y la presión de seguridad tiran en direcciones opuestas. El argumento fundacional de Anthropic —"mejor que lo construyamos nosotros, que nos importa la seguridad"— solo se sostiene si esa ventaja moral se convierte en método. Sin plan, es una promesa.

Nuestra lectura: esto no mueve nuestro horizonte, lo confirma. Seguimos pensando que la IA nos lleva a erradicar enfermedades, alargar la vida sana y generar abundancia; y seguimos pensando que lo difícil es la travesía, no el destino. Este episodio es transición en estado puro: capacidad creciendo más rápido que el control, incentivos de carrera que penalizan al que frena y ninguna instancia externa capaz de arbitrar. La respuesta útil no es ni el pánico ni el desdén. Es exigir que la frase "no tenemos plan" tenga fecha de caducidad.

Hay incluso una señal buena escondida aquí, y merece decirse: una industria donde el jefe de seguridad puede admitir públicamente que no hay plan es más gobernable que una que finge tenerlo. Esa honestidad es materia prima para regulación basada en evidencia —umbrales de parada, evaluaciones externas independientes, transparencia sobre qué porcentaje del cómputo va a alineamiento frente a capacidades— en lugar de legislar el pánico. La métrica que seguiremos no es el p(doom) de nadie. Es si, dentro de doce meses, alguien de dentro puede responder qué plan hay y quién lo verifica.