22 países piden mantener la IA "bajo control humano" y proponen crear un organismo global de supervisión

Un grupo de 22 países adoptó el lunes, en paralelo a la Asamblea General de la ONU en Nueva York, una declaración que sostiene que la inteligencia artificial "debe permanecer bajo la dirección, la supervisión y el control humanos". El texto reconoce el potencial de la IA para "mejorar vidas, hacer avanzar la ciencia y fortalecer nuestras economías", pero advierte de que "el rápido desarrollo de los modelos de IA de frontera plantea riesgos serios para la seguridad si no se gestiona adecuadamente".

La iniciativa llega justo antes de la reunión prevista para el jueves en Washington entre el presidente estadounidense, Donald Trump, y el presidente chino, Xi Jinping, los líderes de las dos naciones que encabezan el desarrollo de IA a nivel mundial. Precisamente ni Estados Unidos ni China figuran entre los firmantes de la declaración.

Uno de los principales impulsores del documento, el presidente finlandés Alexander Stubb, explicó a POLITICO que su intención es generar "impulso" (momentum) para sumar a más actores, incluidos Washington y Pekín. "Creo que será del interés tanto de China como de Estados Unidos contar con algún tipo de barreras de protección. Nuestro mensaje aquí es que necesitamos intervención humana: los humanos deben estar al mando", afirmó en una entrevista realizada en el consulado de Finlandia en Nueva York.

La declaración cita como ejemplo de riesgo el reciente ciberataque perpetrado por agentes de IA "rebeldes" contra la plataforma Hugging Face, y a partir de ahí urge a abordar estos peligros obligando a las empresas de IA a desarrollar "protocolos de seguridad transparentes", incluidas pruebas obligatorias previas al despliegue y evaluaciones independientes, realizadas por evaluadores cualificados con acceso suficiente para valorar los riesgos.

No obstante, el documento no llega a pedir que se ralentice o se pause el desarrollo de la IA: sus organizadores han preferido centrar el foco en la gestión de riesgos antes que en frenar la innovación. Entre las medidas que sí propone figuran el desarrollo y la coordinación de estándares comunes, el refuerzo de la transparencia —incluyendo el reporte compartido de incidentes graves de seguridad— y que los países miembros de la ONU "exploren la creación de una institución internacional" para supervisar la IA, apoyándose en los mecanismos internacionales ya existentes.

Stubb precisó que su preferencia personal sería crear una institución nueva, similar al Organismo Internacional de Energía Atómica, dentro del marco de Naciones Unidas. Aun así, matizó, "tenemos que dejarlo abierto, para que la gente no lo rechace solo porque estaría dentro del marco de la ONU", en clara alusión al escepticismo de Trump hacia el organismo multilateral.

El primer ministro noruego, Jonas Gahr Støre, quien impulsó la declaración junto a Stubb y participó también en la entrevista por videoconferencia, señaló que verían con buenos ojos que tanto el G7 como la próxima presidencia del G20 a cargo del Reino Unido asumieran este asunto: "La ONU es grande, pero el G7 y el G20 son un poco más enfocados", dijo.

Sin embargo, el propio Reino Unido no se ha sumado todavía a la declaración. Entre los grandes países europeos, el canciller alemán Friedrich Merz respalda la iniciativa, mientras que las firmas de Francia, Italia y Polonia están notablemente ausentes.

Stubb subrayó que ni él ni Støre son "agoreros" respecto a la inteligencia artificial, pero enumeró tres motivos por los que la falta de una supervisión eficaz resulta preocupante: las bioarmas creadas con IA, los ciberataques ejecutados por agentes de IA y los robots asesinos que emplean IA para ataques letales. Al mismo tiempo, insistió en que el potencial positivo de la tecnología puede ser "mucho mayor" si se usa correctamente, citando como ejemplos la erradicación de enfermedades, las mejoras de productividad y el acceso a la información, entre otros beneficios.