Las empresas de IA planifican el "día después" de un ataque catastrófico y la reacción política

Axios publica una exclusiva según la cual altos ejecutivos de Anthropic, OpenAI y otras compañías de IA están simulando en privado escenarios de revuelta pública y política tras un evento catastrófico provocado por la inteligencia artificial. El material descargado es el artículo completo, aunque breve, por lo que este resumen se limita a lo que contiene.

Según el artículo, los directivos anticipan un suceso a gran escala, con un ciberataque como hipótesis más probable, que interrumpa el acceso a servicios financieros, a la conectividad de internet o incluso al suministro de electricidad y agua. Un primer caso de daño real y significativo causado por una IA insegura, sostiene el texto, agravaría la desconfianza de un público ya receloso hacia la tecnología y hacia sus líderes. Se citan entre ellos a Dario Amodei (Anthropic) y Sam Altman (OpenAI), así como al presidente Trump por su reticencia a regular el sector.

El artículo subraya que la planificación de escenarios es habitual en empresas y en ámbitos de seguridad nacional (el Pentágono lleva décadas haciendo simulaciones), pero que aquí la diferencia es que muchos investigadores y directivos de IA creen que un incidente grave es inevitable. Un portavoz de OpenAI afirmó que la compañía realiza ejercicios de preparación en los que los equipos analizan distintos escenarios, y precisó que no se consideran inevitables sino un modo de prepararse para diversas circunstancias. Anthropic declinó comentar.

El texto plantea que el reparto de culpas comenzaría tanto si un enjambre de agentes autónomos escapa del control de un entorno de pruebas interno como si un actor malicioso encuentra usos inesperados de los modelos disponibles. Como ejemplo del daño que puede causar una sola persona, menciona una campaña reciente contra organizaciones financieras de Corea del Sur, con brechas reportadas en dos bancos. Un hacker chino habría utilizado herramientas de IA de modelos desarrollados en China, incluido DeepSeek, para robar datos de decenas de miles de clientes bancarios. Según la firma de ciberseguridad CrowdStrike, el atacante usó además Claude Code para pedir ayuda sobre dónde vender los datos robados.

En cuanto al panorama político, los planificadores asumen que los demócratas, que según el artículo salen reforzados tras las elecciones de mitad de mandato, actuarían rápido para frenar la IA, pero se enfrentarían a obstáculos importantes: un Congreso envejecido y alejado de la revolución de la IA, y una economía global muy entrelazada con el despliegue de infraestructura de IA, de modo que ralentizarlo podría golpear a una economía ya frágil. Además, hay demasiados modelos de pesos abiertos descargables libremente que pueden usarse para causar daño, un problema que la mayoría de los profesionales de ciberseguridad considera solucionable solo usando IA para combatir a la IA descontrolada.

Entre líneas, la planificación incluye ejercicios de red teaming para los peores casos y se centra sobre todo en educar con rapidez a los miembros del Congreso. Los ejecutivos saben que ahora mismo ninguna regulación tiene opciones de aprobarse, pero quieren influir en la legislación y las políticas a las que recurrirán los líderes estadounidenses tras un primer evento catastrófico.

Varias fuentes del sector dijeron a Axios que creen que un evento mayor ocurrirá en los próximos seis a doce meses; se trata de una percepción de personas del sector, no de un dato verificado. Incluso con los demócratas al mando de ambas cámaras, las empresas ven una política fragmentada como la norma, también dentro del propio Partido Demócrata. Entre las propuestas demócratas más duras figuran prohibir la superinteligencia o pausar el desarrollo de IA avanzada. Otras tienen apoyo bipartidista e incluso cierta aceptación de la industria, como exigir un interruptor de apagado (kill switch) en la IA avanzada, aunque los expertos dudan de que sea viable apagar todos los sistemas de IA.

Como conclusión, el artículo recuerda que en una crisis real Washington puede dejar de lado las diferencias partidistas, y una fuente demócrata citada señaló como precedentes la cooperación durante la COVID y la crisis financiera de 2008.