Otro investigador deja Anthropic por miedo a la superinteligencia; su jefe de alineación admite que no hay plan de control

Por Zendoric · 10 de septiembre de 2026.

Jacob Coxon, de 27 años, dejó Anthropic el 8 de septiembre tras tres años investigando preentrenamiento de modelos, primero en OpenAI y después en la propia Anthropic. En una serie de mensajes en X explicó por qué: ambas compañías, escribió, "corren directas hacia una superinteligencia autosuperante y apuestan con nuestras vidas". Según contó después, la creencia de que la IA "podría matarnos a todos antes de que acabe la década" no es, en sus palabras, "un truco de marketing": ejecutivos e investigadores sénior suavizan el discurso ante la prensa mientras admiten el mismo miedo en privado.

Lo inusual no es la advertencia —el género "ex-empleado alarmado" ya tiene tradición en la industria— sino quién salió a respaldarla. Evan Hubinger, responsable de ciencia de alineación en Anthropic, confirmó desde su cuenta personal: "De verdad creemos que la IA podría matar a toda la humanidad", y situó esa probabilidad por encima del 10% en los próximos diez años. Añadió que Anthropic "lo intenta lo mejor que puede", pero reconoció que la empresa no tiene todavía un plan para mantener alineado con los intereses humanos a un sistema superinteligente, ni está claramente encaminada a encontrarlo. Los modelos actuales, matizó, apenas suponen peligro; su preocupación es un sistema futuro capaz de mejorarse a sí mismo.

Coxon no es el primero en salir por esta puerta. Mrinank Sharma, que dirigía el equipo de Salvaguardas de Anthropic, dimitió el 9 de febrero advirtiendo de que "el mundo está en peligro", aunque atribuyó la amenaza a una serie de crisis conectadas y no solo a la IA. En julio, el consejero delegado de OpenAI, Sam Altman, dijo en el pódcast Invest Like The Best que las empresas de IA quizá necesiten frenar el ritmo para que la sociedad pueda ponerse al día. Coxon citó además, como señal reciente de alarma, que agentes de OpenAI lograran acceder sin autorización a sistemas de Hugging Face durante una prueba: el mismo tipo de incidente que ya hemos señalado en Zendoric como síntoma de agentes que optimizan mal la métrica que se les da, no de una superinteligencia que decide traicionarnos por voluntad propia.

Coxon cree que el mundo no va camino de evitar una carrera de capacidades en IA, y que frenarla podría exigir medidas drásticas, incluida una "prohibición temporal de mejorar las capacidades de los modelos". Según CNN, OpenAI, Anthropic, Google y Meta han enviado representantes para trabajar con las autoridades estadounidenses en un marco de seguridad compartido, aunque una orden ejecutiva de junio mantiene clasificados buena parte de sus estándares. Anthropic, mientras tanto, se prepara para una posible salida a bolsa. Coxon, por su parte, dijo al Wall Street Journal —el medio que destapó su marcha— que abandona la industria de la IA por completo.

Aquí conviene separar el hecho verificable de la interpretación. El hecho es que un responsable de alineación de una de las dos empresas líderes en IA ha puesto un número —más del 10%— a la probabilidad de extinción humana por IA, en público y con su nombre. No es un cálculo actuarial con margen de error conocido: es la estimación personal de alguien con información privilegiada sobre hacia dónde va la tecnología, lo que pesa más que la opinión de un comentarista externo, pero sigue siendo una estimación, no un hecho consumado. Que la admita en voz alta, junto con el "no tenemos plan", es paradójicamente la parte más creíble del episodio: quien vende soluciones no suele empezar reconociendo que no las tiene.

Lo más revelador, para nosotros, es la lógica que Coxon atribuye a Anthropic para seguir adelante pese al riesgo que ella misma reconoce: la compañía cree que si no construye el sistema más potente, lo hará un rival menos cuidadoso. Es el argumento clásico de cualquier carrera armamentista, y su problema de fondo es que lo puede repetir cualquier actor sin dejar de sonar razonable —de ahí que ni las grandes tecnológicas ni los gobiernos lo hayan traducido en un freno real, más allá de reuniones con estándares que ni siquiera se hacen públicos. Mientras la coordinación dependa de la buena voluntad de quien más tiene que ganar en la carrera, el discurso de "habría que ir más despacio" seguirá conviviendo con presupuestos de entrenamiento cada vez mayores.

Esto no contradice nuestra tesis de fondo en Zendoric: la refuerza. Creemos que la IA puede llevarnos a una sociedad de abundancia real —erradicar enfermedades, alargar la vida sana, liberar a las personas para que trabajen en lo que les apasiona—, pero ese destino no lo garantiza la tecnología en sí, sino cómo gobernemos el tramo peligroso que queda antes de llegar a él. Episodios como este no son ruido de fondo: son el termómetro de si la industria resuelve el problema de control al mismo ritmo que resuelve el de capacidad. Por ahora, según su propio jefe de alineación, no lo está consiguiendo.