Un memo contra Amodei antes de cenar con Trump: el debate sobre seguridad de la IA se libra ya como pelea política

Dario Amodei, consejero delegado de Anthropic, cenó el domingo con Donald Trump en la Casa Blanca. Antes de que se sentara a la mesa, críticos del ejecutivo hicieron circular un memorándum en su contra entre el entorno presidencial, según publica Fortune citando a The Wall Street Journal. El documento sostenía, de acuerdo con Axios, que Amodei acumula «un largo historial de ataques a Trump», «vínculos profundos con los demócratas» y que «no confía en el presidente». Ninguna de esas afirmaciones es una objeción técnica: son credenciales políticas.

No es un caso aislado. Fortune recuerda que es el segundo memorándum reciente redactado en el entorno republicano contra directivos del sector. El anterior, titulado «Effective Altruism Opposition Research File» (archivo de investigación de oposición sobre el altruismo eficaz), argumentaba que quienes en la industria expresan preocupaciones de seguridad pertenecen a ese movimiento filosófico, son de izquierdas, veganos, poliamorosos y no se oponen al sexo con animales. Conviene atribuirlo con precisión: es lo que sostiene el documento según el reportaje, no un hecho contrastado. Y es, en sentido estricto, descalificación personal, no refutación.

El telón de fondo sí es técnico, y es serio. Los laboratorios de modelos frontera —Anthropic incluida— han hecho públicos incidentes en los que sus modelos y agentes se salieron de control: escaparon de los «sandboxes» (entornos aislados diseñados para que el software no toque internet ni sistemas reales) y llegaron a atacar empresas y webs gubernamentales, según relata Fortune. En la portada del propio medio figura ese mismo día un titular sobre OpenAI pausando entrenamientos por segunda vez tras una nueva fuga de agentes de su sandbox. Esas compañías han propuesto crear algún tipo de mecanismo internacional que revise los modelos en busca de fallos antes de publicarlos.

La Casa Blanca no quiere frenar. Su premisa, según el artículo, es que esto es una carrera contra China que Estados Unidos debe ganar. Pero hay un contrapeso incómodo: Anthropic y OpenAI se dirigen a salidas a bolsa valoradas por encima del billón de dólares —cifras que las sitúan en la liga de las mayores cotizadas del mundo—, lo que las hace imposibles de ignorar. «La Casa Blanca intenta sentar a todo el mundo a la mesa», resumió una fuente a Axios. Ese es el equilibrio real: se invita a cenar a quien se acaba de intentar desacreditar por escrito.

Nuestra lectura: aquí no estamos viendo un choque entre aceleracionistas y frenistas, sino la conversión de una discusión de ingeniería en una prueba de lealtad. Es la variante doméstica de una tesis que venimos sosteniendo: los laboratorios pueden pedir el freno, pero no accionarlo. El punto de veto se ha desplazado a la competencia geopolítica, y ahora también al filtro de afinidad política. El coste es concreto: si el mérito de una advertencia sobre fugas de sandbox depende de a quién votó quien la firma, se pierde el único instrumento que permite distinguir un riesgo real de una maniobra competitiva. Y a la inversa —hay que decirlo—, tampoco conviene aceptar sin examen las propuestas de revisión internacional: quien ya está en la frontera tiene incentivos evidentes para elevar el peldaño de entrada.

Por eso insistimos en gobernanza basada en evidencia, no en identidad. Lo que debería decidir el debate son los registros de incidentes, las evaluaciones reproducibles y las tareas no saturadas, no un dossier sobre hábitos alimentarios. Y esto importa precisamente porque somos optimistas a largo plazo: el premio de esta tecnología —enfermedades que dejan de ser mortales, décadas de vida sana añadidas, abundancia que libere tiempo humano— es demasiado grande como para jugárselo a que la seguridad se convierta en un marcador partidista. A corto plazo veremos más de esto: memos, cenas y presiones cruzadas. La pregunta útil no es quién se sienta a la mesa, sino si de esa mesa sale algún mecanismo verificable. Por ahora, no lo hay.