Amodei promete frenar a Anthropic ante la ONU mientras Trump rechaza toda regulación global de la IA

Por Zendoric · 24 de septiembre de 2026.

El 23 de septiembre, en una reunión de emergencia del Consejo de Seguridad de la ONU —el órgano de quince miembros con mayor peso político de la organización— los jefes de las dos empresas que lideran la carrera por la IA más potente comparecieron para pedir freno. Sam Altman (OpenAI) reclamó «extreme care» (cuidado extremo) y advirtió de que sistemas cada vez más autónomos podrían avanzar más rápido que las instituciones o concentrar el poder en muy pocas manos. Dario Amodei (Anthropic), por videoconferencia, fue un paso más allá: prometió que su compañía «frenará todo lo necesario» para garantizar que cada nueva versión sea segura, y admitió que, «gestionada mal», la IA podría llegar a ser «un riesgo para la humanidad en su conjunto».

No fueron los únicos. Yoshua Bengio, uno de los padres académicos del aprendizaje profundo, pidió canalizar la preocupación creciente «en acción productiva». Clement Delangue, de Hugging Face, explicó que su plataforma —blanco, según recogió France 24 citando a AFP, de un reciente ciberataque atribuido a software autónomo de OpenAI, el primero de una serie de incidentes que han disparado las alarmas— usó a su vez IA de código abierto para defenderse. El artículo no detalla más sobre ese incidente, así que lo tratamos como lo que es: un hecho reportado por la fuente, no verificado de forma independiente por nosotros. A ello se suma que, a principios de septiembre, Jacob Coxon —investigador que trabajó tanto en OpenAI como en Anthropic— dejó el sector acusando a ambas compañías de «jugar con nuestras vidas» en la carrera por modelos capaces de automejorarse.

Todo esto ocurre poco antes de que Trump reciba a Xi Jinping en una cumbre con la IA en la agenda. Y ahí aparece la fractura real de la semana: mientras Altman y Amodei pedían cooperación internacional, Trump había rechazado el martes cualquier regulación global calificándola de «esquema globalista», y Michael Kratsios, director de la Oficina de Política Científica y Tecnológica de la Casa Blanca, insistió en que el ritmo de avance no justifica pausas ni nuevas estructuras de gobernanza. Enfrente, el Reino Unido —según recoge el artículo, de la mano de su primer ministro, Andy Burnham— anunció que impulsará estándares globales de IA durante su presidencia del G20 de 2027, y Francia, por boca de su ministro de Exteriores Jean-Noël Barrot, reclamó acción conjunta dentro del marco de la ONU.

Nuestra lectura: el dato que más pesa aquí no es la advertencia en sí —los laboratorios llevan años lanzando avisos genéricos— sino que quien lo dice es quien construye el producto y admite, con nombre y apellido, que su propia tecnología podría salir mal. Es la misma lógica que hemos visto en otras admisiones recientes del sector: la palabra de quien está dentro vale más como evidencia que cualquier profecía externa. Pero conviene no leerlo con ingenuidad. Un actor ya instalado en la frontera puede permitirse «frenar» sin perder la carrera, mientras empuja a que la próxima ronda de reglas se escriba a su medida; pedir gobernanza global es también, inevitablemente, pedir un asiento en la mesa donde se reparten las reglas del juego. Y el frente abierto —el que usó Hugging Face para defenderse del ataque que sufrió— sigue siendo el contrapeso más democratizador: la seguridad no depende solo de que los gigantes se autolimiten, sino de que existan alternativas abiertas fuera de su control.

El problema urgente no es la superinteligencia lejana: es la concentración de poder y el desfase institucional que Altman describió, aquí y ahora, con nombres y calendarios concretos. Que Washington rechace de plano cualquier coordinación mientras Londres y París la reclaman no frena el desarrollo un solo día; solo decide quién se sienta a redactar las normas cuando lleguen. A largo plazo, frenar cuando toca no contradice la promesa de una IA que cure enfermedades y reparta abundancia: es, precisamente, la condición para llegar hasta ahí sin que un tropiezo por el camino —un modelo mal gobernado, un incidente que se descontrola— lo eche todo a perder.