«Pena de muerte corporativa» contra la superinteligencia: un proyecto de ley que regula el miedo antes que la capacidad

Un proyecto de ley propone prohibir el desarrollo de superinteligencia, es decir, de una IA que superaría a los humanos en prácticamente cualquier tarea intelectual. Para quien incumpla la prohibición prevé castigos de máxima dureza. Según la nota de origen, las empresas infractoras se enfrentarían a la «pena de muerte corporativa», que en la práctica supone su disolución. Las personas implicadas podrían recibir hasta 20 años de prisión. El material disponible es breve y no aclara quién presenta el texto, en qué parlamento ni en qué fase de tramitación está. Tampoco explica cómo se definiría legalmente la superinteligencia.

Esas ausencias son lo más importante de la noticia. Una prohibición penal solo funciona si deja claro qué está prohibido. Hoy no existe un umbral técnico aceptado que separe un modelo frontera avanzado de una superinteligencia. Los índices que usamos para comparar modelos (SWE-bench, Terminal-Bench o las pruebas de ciberseguridad sin guía) miden capacidades concretas, no un salto cualitativo. Si la definición es vaga, el texto puede quedarse en papel mojado o, al contrario, alcanzar a investigación legítima. La comparación obvia es con delitos graves como el terrorismo. Ese nivel de pena solo resulta proporcionado si el daño que se castiga está claro y es demostrable.

Nuestra lectura: la propuesta funciona más como síntoma que como solución. Indica que la preocupación por los riesgos extremos de la IA ha pasado de los foros especializados al terreno legislativo, y eso tiene una parte sana. Pero repite el patrón sobre el que venimos advirtiendo: regular el pánico, no la capacidad real. Los riesgos que ya se pueden medir, como el fraude automatizado, los ciberataques con agentes o la falta de trazabilidad, piden auditoría, registros y supervisión humana más que penas máximas sobre un concepto difuso. Además, una prohibición unilateral no detiene la investigación global y puede desplazarla a jurisdicciones con menos controles. Es la misma dinámica que ya vemos con los controles de exportación y China. Mantenemos nuestro optimismo de largo plazo: una IA mucho más capaz puede ayudar a erradicar enfermedades y generar abundancia. Precisamente por eso conviene gobernarla con evidencia y umbrales verificables, no con prohibiciones amplias. Habrá que seguir si el proyecto avanza y, sobre todo, cómo define lo que pretende prohibir.