20 años de cárcel por crear una superinteligencia: la ley de Sanders no va a aprobarse, pero ya está redibujando la política de la IA

LO QUE DICE EL TEXTO, NO EL TUIT. El 23 de septiembre, el senador Bernie Sanders y el congresista Greg Casar presentaron públicamente la Ban Artificial Superintelligence Act, un proyecto de 19 páginas según NBC News. Prohíbe de forma permanente desarrollar o desplegar «superinteligencia artificial» en Estados Unidos. Las penas son las más duras jamás propuestas para una tecnología civil: hasta 20 años de prisión para individuos y la «pena de muerte corporativa» —la disolución forzosa de la empresa— para las compañías. Sanders equipara el castigo al de fabricar armas nucleares ilegalmente. El proyecto también pausa el desarrollo de IA avanzada hasta que un nuevo Departamento de Inteligencia Artificial, con rango de gabinete, escriba las reglas de seguridad. Y declara política oficial de EE.UU. buscar acuerdos internacionales y controles de exportación para frenar la superinteligencia en todo el mundo.

LA DEFINICIÓN ES EL CAMPO DE BATALLA. El texto define superinteligencia con dos supuestos. Uno: un sistema que «exhibe, o puede ser fácilmente modificado para exhibir» capacidades que igualan o superan el rendimiento cognitivo humano en una amplia gama de dominios. Dos: un sistema con capacidad suficiente para planificar y ejecutar «el desempoderamiento de la humanidad», incluido derrocar al Gobierno de EE.UU. Además prohíbe sistemas con cualquiera de seis «características precursoras»: automatizar la propia investigación en IA, resistirse al apagado, automodificarse, acceder a infraestructuras sin autorización, potenciar armas bioquímicas y engañar de forma estratégica. Aquí está el problema. Según el análisis técnico de Pebblous, la palabra «benchmark» (prueba estandarizada de capacidad) aparece cero veces en el texto; «estándar», también cero. El único número concreto es un umbral de 10^25 operaciones de entrenamiento, una medida del cálculo usado para entrenar el modelo que, como ha demostrado la destilación (copiar un modelo grande en uno pequeño), correlaciona cada vez peor con la capacidad real. La investigadora Heidy Khlaaf lo resume en Science: la definición es «hipotética e infalsificable». Y la cláusula más dura lo agrava: si el Gobierno no puede verificar en 30 días que un sistema ya no exhibe características precursoras, el sistema debe destruirse. Las evaluaciones de IA solo demuestran lo que un modelo puede hacer; nunca prueban lo que no puede hacer. La ley exige demostrar una ausencia, y la ciencia de la medición no sabe hacer eso hoy.

EL NUEVO MAPA POLÍTICO. La semana del proyecto fue un retrato del realineamiento. Donald Trump dijo ante la Asamblea General de la ONU que la palabra «artificial» «hace que la inteligencia suene falsa», y acto seguido una oficina del Departamento de Estado ordenó por correo interno sustituir «inteligencia artificial» por «superinteligencia» en todos sus documentos y posiciones, según The Hill. Ese mismo 23 de septiembre, el Consejo de Seguridad de la ONU celebró su primera sesión dedicada a la pérdida de control sobre la IA, con Sam Altman (OpenAI), Dario Amodei (Anthropic), el científico Yoshua Bengio y Clément Delangue (Hugging Face) como ponentes. Mientras, las alianzas cruzan el espectro: Sanders compartió escenario con Steve Bannon en la «Pro-Human Assembly», y la Declaración sobre Superinteligencia del Future of Life Institute suma más de 850 firmas, de Geoffrey Hinton y Steve Wozniak a Bannon y Glenn Beck. La opinión pública acompaña: un 68% de votantes probables apoya el proyecto frente a un 25% que lo rechaza (Data for Progress, más de 1.300 encuestados), y un 74% cree que el Gobierno no regula la IA lo suficiente (Quinnipiac). El dinero también ha llegado: unos 58 millones de dólares de grupos externos en las midterms de 2026, 33 pro-seguridad frente a 25 pro-innovación, según Transformer.

LAS PROBABILIDADES REALES. Separemos el gesto de la ley. A fecha de este análisis no consta número de proyecto en congress.gov, no hay copatrocinador republicano y no hay audiencia programada. El CEO de la National AI Association lo declaró «muerto al llegar» en declaraciones a NBC News, y el senador Rand Paul bloqueó días antes una ley de IA relacionada. La crítica llega de ambos lados: el think tank R Street lo califica de «autoritarismo de IA», y Gary Marcus —que defiende crear una agencia federal de IA— considera el veto permanente y unilateral un error que cedería terreno a otros países y lo tacha de «ingenuo» sobre los benchmarks. Hasta los demócratas están divididos: Transformer describe cuatro facciones internas que no acuerdan ni siquiera cuál es el riesgo principal.

NUESTRA LECTURA. Tres claves. Primera: esto no es una ley, es legislación dormida. Los textos así esperan en un cajón hasta que un incidente grave abre la ventana política, y entonces se aprueban en semanas, con sus defectos intactos. Por eso importa criticar hoy su definición, no cuando sea tarde. Segunda: la batalla real es por el vocabulario. Trump adopta «superinteligencia» como marca de grandeza nacional; Sanders, como amenaza existencial a erradicar. La misma palabra sostiene dos proyectos opuestos, y quien fije su significado legal —con métrica de activación o sin ella— ganará el debate. Ya lo escribimos: sin umbral medible, la norma es simbólica y el poder queda en manos de quien controla el diccionario. Tercera: el freno como foso. Una pausa congela el ranking vigente. Hoy beneficiaría a los líderes establecidos frente a quien viene detrás, y un veto unilateral de EE.UU. no detiene a los modelos abiertos chinos (open-weight: aquellos cuyos pesos se publican y cualquiera puede ejecutar), que ya compiten con la frontera cerrada.

REGULAR LA CAPACIDAD, NO EL PÁNICO. Los riesgos de corto plazo son reales —empleo, fraude automatizado por agentes, concentración de poder— y justifican gobernanza seria. Pero regular con definiciones infalsificables solo produce dos resultados posibles: letra muerta o arbitrariedad. Lo más útil del proyecto de Sanders es que obliga a construir lo que falta: una metrología pública de capacidades de IA, con evaluaciones independientes, umbrales medibles y protocolos de verificación, que es exactamente lo que pidieron Bengio y Altman ante el Consejo de Seguridad. Qué vigilar en los próximos meses: si el proyecto recibe número y audiencia, si aparece un copatrocinador republicano, si los estados copian piezas sueltas y si madura la ciencia de evaluaciones. Nuestro horizonte no cambia: una IA bien gobernada apunta a erradicar enfermedades, alargar la vida y generar abundancia. El puente hacia ahí no es el pánico ni la euforia. Es aprender a medir antes de prohibir.