Nobel y Vaticano piden lo mismo: que ningún algoritmo tenga el dedo en el botón nuclear

Por OSV News · 17 de julio de 2026.

Más de dos docenas de premios Nobel —entre ellos el físico Arthur B. McDonald, la periodista y Nobel de la Paz Maria Ressa, el cardiólogo James E. Muller (cofundador de los Médicos Internacionales para la Prevención de la Guerra Nuclear) y el físico David Gross— firmaron el 16 de julio en el Capitolio de Roma la "Declaración de Roma sobre una Paz Desarmada y Desarmante en la Era de la Inteligencia Artificial y las Armas Nucleares". El texto cierra una cumbre de tres días, la Global Nobel Laureates Assembly on Artificial Intelligence and Nuclear War, con unos 200 delegados y reuniones a puerta cerrada en los Jardines Vaticanos de Castel Gandolfo, respaldada por instituciones como el Existential Risk Laboratory de la Universidad de Chicago, Harvard Medical School, el Bulletin of the Atomic Scientists y la Catholic University of America. Entre los asistentes hubo investigadores de Google DeepMind, Anthropic y Aaru, además de un miembro de la Academia de Ciencias de Rusia, presencia que los organizadores subrayaron como relevante dado el peso del arsenal nuclear ruso.

La declaración, que los firmantes describieron como respuesta directa a la encíclica "Magnifica Humanitas" de León XIV, fija seis principios: un tratado internacional que garantice que ningún sistema automatizado tome jamás la decisión final de lanzar un arma nuclear, preservando el "control humano significativo"; que las empresas de IA publiquen y rindan cuentas sobre los principios que gobiernan el comportamiento de sus modelos; que ningún gobierno o compañía persiga sistemas de IA totalmente autónomos y automejorables sin capacidad de monitorización o parada; revisiones de los estados con armamento nuclear para blindar sus arsenales frente a interferencias de IA; y la reanudación de negociaciones para la eliminación verificable de armas nucleares bajo los tratados de no proliferación vigentes. El texto invoca explícitamente el manifiesto Einstein-Russell de 1955 ("apelamos como seres humanos a seres humanos: recordad vuestra humanidad y olvidad el resto"), un gesto que sitúa deliberadamente esta cumbre en la misma tradición que la lucha contra la proliferación atómica del siglo XX.

Lo relevante aquí no es que el Vaticano hable de IA —lleva haciéndolo con distintas intensidades desde hace años—, sino que una coalición de científicos con prestigio máximo, algunos de ellos físicos que han pasado su carrera lejos de cualquier lenguaje religioso, elija sumarse públicamente al marco moral de una encíclesis papal para presionar sobre un asunto muy concreto: la automatización del mando y control nuclear. Es una señal de que el problema ha dejado de ser un ejercicio de prospectiva de think tank y ha entrado en la agenda de gobernanza real, con nombres propios de la industria (DeepMind, Anthropic) sentados en la sala. Que David Gross argumente que el cambio vendrá de la presión pública y no de los líderes de gobierno es, en el fondo, un diagnóstico incómodo sobre la lentitud de la respuesta institucional frente a la velocidad de despliegue de la IA en sistemas de defensa.

Nuestra lectura es que esta declaración encaja en un patrón que venimos observando: en los dominios de más alto riesgo —mando nuclear, sanidad crítica, protección infantil— el freno que realmente opera no es la falta de capacidad técnica, sino la ausencia de gobernanza, verificación y confianza institucional. Aquí el objetivo no es prohibir la IA en la defensa en general, sino trazar una línea roja muy específica y defendible: ningún algoritmo decide sobre el lanzamiento de un arma nuclear, punto. Es exactamente el tipo de gobernanza basada en evidencia y no en pánico que defendemos como necesaria: no frena la investigación de frontera, pero sí exige control humano irrenunciable en el único escenario donde un error de sistema es literalmente irreversible para la civilización.

A corto plazo, el riesgo que describe esta cumbre es real y no debe minimizarse: la carrera armamentística entre potencias nucleares se solapa cada vez más con sistemas de IA que aceleran la toma de decisiones militares, y la ventana para fijar normas verificables antes de que la automatización se generalice se estrecha. Pero el propio hecho de que científicos, líderes religiosos, exjefes de Estado e investigadores de las empresas líderes en IA puedan sentarse en la misma mesa y firmar un texto común es, a su manera, una prueba de que la cooperación internacional en torno a riesgos existenciales sigue siendo posible. Si de la erradicación de enfermedades y la abundancia material que promete la IA a largo plazo queremos llegar sin antes tropezar con una crisis nuclear evitable, declaraciones como esta —simbólicas hoy, pero con potencial de convertirse en tratado— son precisamente el tipo de barandilla que hace falta construir mientras la tecnología sigue avanzando.