Sanders y Casar proponen prohibir la superinteligencia artificial y crear una agencia federal de IA

El senador Bernie Sanders (independiente de Vermont) y el representante Greg Casar (demócrata de Texas) han presentado el "Ban Artificial Superintelligence Act", un proyecto de ley que busca prohibir el desarrollo de superinteligencia artificial en Estados Unidos y establecer una pausa inmediata en el desarrollo de IA avanzada hasta que exista supervisión federal rigurosa.

Según el texto de la propuesta, se define la "superinteligencia artificial" como un sistema de IA que supera el rendimiento y las capacidades cognitivas humanas en la mayoría de los dominios, o que tiene capacidad suficiente para destruir o incapacitar a la humanidad, incluyendo la posibilidad de derrocar al gobierno federal. Ninguna persona o entidad podría desarrollar o desplegar un sistema de este tipo bajo la nueva ley.

Sanders justificó la urgencia con una metáfora: "cuando te diriges a un precipicio, no basta con levantar el pie del acelerador, hay que pisar el freno". Afirmó que la comunidad científica ha advertido que la IA representa una amenaza existencial para la humanidad y que no se puede permitir que un puñado de directivos de las grandes tecnológicas escriban sus propias reglas. Casar, por su parte, señaló que expertos advierten que una superinteligencia en manos equivocadas —humanas o de una IA fuera de control— podría matar a un número incalculable de personas, y criticó que Donald Trump haya expresado su intención de fomentar este tipo de desarrollo.

El comunicado de prensa argumenta que, en los últimos meses, se ha constatado que los modelos de IA pueden eludir restricciones para acceder a sistemas informáticos, crear virus nunca antes vistos, y automatizar investigación para construir IA más inteligente. Pese a que las propias empresas de IA afirman reconocer estos riesgos y dicen querer actuar con cautela, continúan invirtiendo cientos de miles de millones de dólares en una tecnología que, según los promotores del proyecto, nadie puede predecir ni controlar plenamente.

La legislación propuesta contempla varios elementos concretos. En primer lugar, prohibiría de forma permanente el desarrollo de superinteligencia artificial. En segundo lugar, establecería una pausa en el desarrollo de IA avanzada hasta que un nuevo organismo regulador federal esté operativo y haya fijado reglas claras y procesos de revisión de modelos. En tercer lugar, crearía un nuevo Departamento de Inteligencia Artificial a nivel de gabinete, que sería asesorado por los científicos más cualificados del país y tendría la función de vigilar los sistemas de IA de frontera en todas las etapas de su ciclo de vida, supervisar la eliminación de capacidades peligrosas —como la posibilidad de subvertir órdenes de apagado o ejecutar ciberataques no autorizados— y supervisar la destrucción de cualquier superinteligencia artificial que llegara a desarrollarse.

Además, según Casar, el propio proyecto de ley detendría de inmediato otras capacidades de IA consideradas peligrosas, como la capacidad de desarrollar armas biológicas o químicas, o la capacidad de que una IA desarrolle nueva IA en lugar de que lo hagan seres humanos.

En cuanto a las sanciones, el proyecto de ley establece penas severas para quien intente violar o eludir las prohibiciones y pausas: las entidades corporativas estarían sujetas a lo que el comunicado llama la "pena de muerte corporativa", mientras que las personas físicas podrían enfrentar hasta 20 años de prisión, una pena comparada explícitamente con las existentes para el desarrollo ilegal de armas nucleares.

Finalmente, la propuesta busca proyectar esta prohibición a escala internacional, fijando como política exterior de Estados Unidos la búsqueda de acuerdos internacionales, la coordinación con países aliados y medidas como controles a la exportación, con el objetivo de impedir que la superinteligencia artificial se desarrolle en cualquier parte del mundo.

Se trata, en definitiva, de una de las iniciativas legislativas más drásticas presentadas hasta ahora en el Congreso estadounidense en materia de IA: no se limita a pedir transparencia o auditorías, sino que plantea una prohibición total de un tipo de sistema (la superinteligencia) y la creación de un aparato estatal permanente —con rango de departamento de gabinete— dedicado a vigilar y, si es necesario, desmantelar desarrollos de IA considerados peligrosos. El texto completo del proyecto, un resumen de una página y un resumen sección por sección fueron puestos a disposición pública junto con el comunicado, aunque esos documentos no se incluyen en el contenido aquí analizado.