Ocho exempleados de OpenAI, Anthropic y Google DeepMind explican por qué renunciaron ante el riesgo existencial de la IA

El 8 de septiembre, Jacob Coxon, investigador de capacidades de Anthropic de 27 años, publicó en X una declaración de renuncia que circuló ampliamente. Coxon trabajó antes en OpenAI (2023-26) y luego pasó unos meses en Anthropic (mayo-septiembre de 2026), donde se dedicaba a hacer los modelos más potentes y autónomos. Dejó la empresa, según el artículo, en protesta por lo que consideraba una búsqueda "suicidamente temeraria" de la inteligencia artificial general. El reportaje, firmado por Clara Collier y Angela Chen para New York Magazine (Intelligencer) en colaboración con la revista Asterisk, reúne entrevistas con ocho personas que dejaron OpenAI, Anthropic o Google DeepMind: además de Coxon, participan Miles Brundage (OpenAI, jefe de investigación de políticas), Rosie Campbell (OpenAI, equipo de fronteras de políticas), Jacob Hilton (OpenAI, investigador de aprendizaje por refuerzo), Pamela Mishkin (OpenAI, economía), Daniel Kokotajlo (OpenAI, investigación de gobernanza, salió en 2024), Alex Turner (Google DeepMind, alineamiento) y Jeff Wu (OpenAI y luego Anthropic, alineamiento).

Sus motivos para irse no son idénticos: algunos, como Coxon y Kokotajlo, querían llamar la atención sobre los riesgos de una IA que avanza demasiado rápido; otros objetaban las alianzas de sus empresas con el Departamento de Defensa, o sentían frustración al ver cómo un proyecto que nació con vocación idealista se convertía en un gigante corporativo; otros simplemente creían que su trabajo —ya fuera en seguridad o en el estudio de la pérdida de empleos— tendría más impacto fuera que dentro.

Kokotajlo explica que dejó OpenAI porque perdió la confianza en que la directiva fuera a actuar con responsabilidad, y porque quería libertad para hablar públicamente y dejar constancia de por qué se iba. Según él, el "juego desde dentro" no funciona: la cúpula escucha con atención las preocupaciones de la plantilla, dice estar de acuerdo, pero luego no actúa; además, la cultura interna está sesgada hacia el optimismo excesivo y las narrativas autocomplacientes. Afirma que ha tenido más impacto hablando en público y publicando investigación desde fuera que el que habría tenido escribiendo memorandos internos.

Coxon describe un razonamiento parecido, pero con una sensación de mayor urgencia: habló directamente con responsables de investigación de Anthropic (no con Dario Amodei, pero sí con personas de larga trayectoria y mucho contexto sobre el rumbo de la empresa) acerca de los planes para el año próximo, y lo que escuchó le hizo decidir que no quería formar parte de ellos. Según relata, dentro de la empresa existía un consenso informal de que 2027 sería el año en que "las cosas se vuelven una locura", y de que no se esperaba que la regulación gubernamental llegara a tiempo, ni que fuera posible ningún tipo de cooperación internacional. Coxon distingue entre sus creencias racionales, que apenas cambiaron entre su entrada y su salida de Anthropic, y su sensación visceral, que sí cambió drásticamente: al ver las capacidades proyectadas para las próximas generaciones de modelos, llegó a sentir miedo genuino, en particular ante la posibilidad de que la generación de modelos posterior a la siguiente pudiera aportar ideas propias y ejecutar investigación sin apenas supervisión humana, reduciendo al investigador a alguien que simplemente le dice al modelo que "haga buena investigación" y lo deja actuar solo.

Antes de irse, Coxon habló con Kokotajlo —dice que el escenario "AI 2040" de este último, comparado con la trayectoria por defecto del sector, fue importante para asumir lo mala que le parecía la situación— y también con personas dentro de Anthropic que le aconsejaron sobre cómo marcharse, entre ellas Holden Karnofsky y Nick Joseph, responsable de preentrenamiento. Según cuenta, en el ambiente social de la bahía de San Francisco es habitual que, en una misma fiesta, una persona le diga a otra que su trabajo está provocando el fin del mundo, y aun así mantengan una conversación educada.

El reportaje también recoge la respuesta de Coxon a quienes sostienen que estas advertencias sobre riesgo existencial no son más que publicidad para inflar las valoraciones de las empresas antes de salir a bolsa: afirma que ese argumento pudo tener sentido hace unos años, pero que ahora los riesgos son lo bastante serios como para perjudicar claramente esas valoraciones, citando como ejemplo que un tuit del investigador Evan Hubinger no ayudó precisamente a la futura salida a bolsa de Anthropic.

Sobre las organizaciones de seguridad de IA que colaboran de cerca con los laboratorios, Kokotajlo admite sentirse incómodo pero defiende mantener esas relaciones porque, dice, le ha permitido influir: según él, tanto "AI 2027" como "AI 2040" han calado entre empleados de estas empresas. Distingue, sin embargo, entre la decisión estratégica de seguir dialogando con los laboratorios y la decisión personal de con quién relacionarse: afirma que no invita a investigadores de capacidades a la fiesta de cumpleaños de su hija, aunque coincida con ellos en eventos. Coxon, por su parte, tiende a culpar más al sistema —la dinámica de carrera entre empresas privadas, la falta de implicación de los gobiernos— que a las personas concretas, algo que Kokotajlo matiza introduciendo una "gradación" de responsabilidad: poca culpa para el personal de seguridad dentro de los laboratorios, que según él debería darse cuenta de que puede hacer más bien fuera; una culpa intermedia para los investigadores de capacidades, cuyas justificaciones considera racionalizaciones; y mucha culpa para la cúpula directiva, a la que acusa de "dirigirnos directamente hacia el abismo", además de culpar también al sistema de incentivos en su conjunto.

En la conversación aparecen varias de las narrativas que, según los entrevistados, usa la gente para quedarse pese a sus dudas: la idea de que la superinteligencia está lejos o de que el paradigma actual se estancará; la lógica de "si no lo hago yo, lo hará otro"; o el relato de un empleado extranjero de OpenAI que, convencido de que su país quedaría desempoderado frente a Estados Unidos por el avance de la IA pero sintiéndose incapaz de impedirlo, decidió simplemente intentar ganar dinero mientras tanto. También se menciona la atracción casi visceral de sentir que se está haciendo "lo más importante de la historia", aunque ese carácter importante derive de que podría acabar con todos.

El coste personal de estas decisiones aparece de forma explícita: Coxon dice que, en realidad, preferiría llevar una vida normal, y que fantaseaba con haber trabajado en los primeros tiempos de Google, con toda la emoción de una tecnología en expansión pero sin la amenaza de que el proyecto en el que trabaja "se vuelva loco" el año próximo y provoque una devastación total. Kokotajlo, padre de dos hijos, cuenta que le cuesta soñar con el futuro familiar sin que una voz de fondo le recuerde los riesgos, y que le encantaría que la IA resultara ser, dentro de cinco o diez años, una tecnología más, económicamente útil pero nunca tan poderosa ni peligrosa como teme, aunque eso le haga quedar como alguien exagerado.

Sobre cómo ve la comunidad de seguridad de IA a Anthropic, Kokotajlo recuerda que la empresa ha mantenido desde su fundación un relato bastante constante: acumular poder e influencia como uno de los grandes actores del sector para después usar esa posición y esa credibilidad en favor de una buena regulación. Su valoración es que Anthropic ha entrado en una suerte de "deuda moral" al empujar al mundo hacia un peligro que la propia empresa reconoce como tal, y que ese bien prometido no ha compensado todavía el daño causado; apunta que esta misma narrativa la usaron también OpenAI y Google DeepMind, aunque Anthropic la haya formulado de manera más explícita. Coxon añade que Anthropic, desde 2022, manejaba plazos más cortos que el resto del sector (entonces hablaban de unos cuatro años), y que se lanzó directamente a automatizar la programación y su propia investigación, sin las múltiples iniciativas paralelas que sí tuvo OpenAI y que después fue abandonando, persiguiendo sin titubeos las capacidades vinculadas a la automejora recursiva de los modelos.

Sobre por qué la gente que comparte estas preocupaciones decide quedarse, Coxon sugiere que permanecer dentro de un laboratorio es también una forma de lidiar con la sensación de desempoderamiento frente a la IA: estar presente durante el entrenamiento de un modelo, aunque dé miedo, genera la sensación de formar parte de algo importante y de poder influir, aunque sea mínimamente, en que resulte más seguro. Kokotajlo coincide en que es un argumento seductor —y no del todo infundado— pero advierte que muchas personas que se fueron no han logrado gran cosa desde fuera, y que muchas de las que se quedaron tampoco han logrado nada o, peor aún, han contribuido a empeorar la situación.

El fragmento disponible del artículo se interrumpe al comienzo de una nueva sección, titulada "Un intento fallido de presionar desde dentro", que introduce a Alex Turner, exinvestigador de alineamiento en Google DeepMind, sin que el contenido entregado incluya el desarrollo de ese apartado. El índice original del reportaje señala, además, otros bloques no incluidos en este extracto —sobre si alguien vigila que los laboratorios cumplan lo que prometen, si Anthropic sigue siendo "la empresa segura", la pérdida de empleo que puede provocar la IA, los incentivos para quedarse y si alguien debería "defender" a la propia IA—, por lo que este resumen se limita estrictamente a lo efectivamente recibido y no debe tomarse como un relato completo del artículo.