Guterres advierte que la IA avanza más rápido que las normas y pide un pacto global para proteger a la infancia

El secretario general de la ONU, António Guterres, abrió en Ginebra el primer Diálogo Global de Gobernanza de la IA a nivel gubernamental con una advertencia contundente: la inteligencia artificial se está desplegando más rápido de lo que nadie —ni siquiera quienes la construyen— puede seguir el ritmo. Según Guterres, una tecnología capaz de reconfigurar economías, transformar el empleo, influir en elecciones y alterar equilibrios de seguridad avanza sin las salvaguardas necesarias. Su mensaje central fue claro: "si la IA va a ser poderosa, debe ser gobernada".

El encuentro, de dos días de duración, no busca redactar un tratado vinculante, sino sentar las bases para discutir cómo mitigar los riesgos de la IA y aprovechar sus oportunidades. Los delegados revisarán un informe elaborado por un panel científico independiente de 40 expertos respaldado por la ONU, que constituye la primera evaluación científica global e independiente sobre inteligencia artificial. Se prevé un informe más completo el próximo año, junto con una segunda reunión global en Nueva York.

Uno de los ejes más destacados del discurso de Guterres fue la protección infantil. El dirigente denunció que la IA ha llegado al aprendizaje, las amistades y las preguntas más íntimas de los niños antes de que nadie se preguntara qué efecto tendría sobre ellos, en contraste con el riguroso testeo que se exige a medicamentos o juguetes. Citó casos de menores inducidos al autolesionismo y engañados por máquinas que se hacían pasar por amigos. Para enfrentar este problema, propuso un "Compromiso de Seguridad Infantil en IA", que obligaría a las empresas a demostrar que sus sistemas son seguros antes de hacerlos accesibles a menores. Además, planteó que los sistemas no deberían poder generar imágenes sexuales de niños y que, ante señales de angustia en un menor, la IA debería detenerse y conectarlo con ayuda humana.

Guterres también alertó sobre la falta de preparación institucional del mundo frente a máquinas que toman decisiones con escasa supervisión humana o gubernamental, subrayando la velocidad inédita de adopción: mientras internet tardó 15 años en alcanzar a mil millones de personas, la IA lo logró en solo dos.

Otro punto crítico fue la concentración del poder tecnológico en pocas empresas y países, lo que deja a las naciones en desarrollo con escasa voz en el rumbo de la IA y en riesgo de quedar rezagadas. El informe científico independiente confirmó esta disparidad: Estados Unidos concentra el 75% de la capacidad de cómputo entre las 500 supercomputadoras de IA más importantes del mundo, y China el 15%. Aunque más de mil millones de personas usan IA conversacional semanalmente a nivel global, la adopción en países en desarrollo sigue rezagada.

Pese a estos riesgos, Guterres planteó una visión optimista: si se usa bien, la IA podría comprimir décadas de desarrollo en años, convirtiéndose en "el gran igualador del siglo XXI". En esa línea, el jefe del Consejo Presidencial de Libia, Mohamed al-Menfi, pidió cerrar la brecha de IA en África, continente que representa el 10% de la población mundial pero posee menos del 2% de los centros de datos globales, insistiendo en que la IA no puede considerarse un recurso legítimo si los países africanos no pueden aprovecharla, y reclamando mayor participación africana en el diseño de las reglas globales.

El presidente georgiano, Mikheil Kavelashvili, añadió que los líderes mundiales comparten la responsabilidad de crear leyes internacionales robustas para evitar que el poder de la IA se convierta en un instrumento de control totalitario o una nueva forma de tiranía digital.

En conjunto, el artículo retrata un momento de inflexión en la gobernanza global de la IA: la ONU intenta, por primera vez a nivel gubernamental, articular un marco común frente a una tecnología que ya opera a escala planetaria sin reglas armonizadas, con especial énfasis en la protección de los más vulnerables —los niños— y en evitar que la brecha tecnológica entre países ricos y pobres se profundice aún más.