Anthropic redacta su propia ley de seguridad: poder de veto federal sobre modelos peligrosos, pero con umbral alto y la última palabra en un juez

Anthropic ha presentado en privado a legisladores estadounidenses un borrador de ley que daría al Gobierno federal un mecanismo para impedir el despliegue de modelos de IA capaces de causar daños graves. La iniciativa la publicó Politico el 16 de octubre, citando a tres personas al tanto de las conversaciones, y después la recogió Reuters. Según esas informaciones, el Estado solo podría intervenir si un modelo amenaza con causar más de 1.000 millones de dólares en daños económicos, o con matar o herir gravemente a más de 50 personas. Se definen tres categorías de amenaza: armas biológicas, sistemas que operan fuera del control de sus desarrolladores y ciberataques.

La pieza central es un sistema de evaluación independiente. Unos evaluadores externos, registrados en el Departamento de Comercio, examinarían periódicamente a las empresas y sus modelos más capaces. Las propias compañías podrían pagar esas auditorías, siempre que la remuneración no dependa de las conclusiones. Si un evaluador detecta un riesgo que cumple los criterios, tendría 72 horas desde que termina la evaluación para notificarlo a Comercio. Comercio no podría suspender el modelo por su cuenta. Tendría que pedirlo ante un tribunal federal del Distrito de Columbia, y sería un juez quien lo ordenara. El borrador impediría además que otras agencias federales frenen por su cuenta el desarrollo, el despliegue o el uso interno de modelos bajo este marco.

El contexto ayuda a entenderlo. La regulación ex ante, la que se fija antes de que ocurra el daño, está atascada en Washington. La FTC acaba de abrir una investigación amplia a OpenAI, Anthropic y otros desarrolladores. Y Anthropic camina hacia los mercados de capitales, donde el riesgo catastrófico ya aparece como factor de descuento. Según Reuters, ni Anthropic ni el Departamento de Comercio respondieron de inmediato a las peticiones de comentario. Tampoco está claro que algún legislador vaya a presentar el texto formalmente: por ahora es una propuesta, no una ley.

El diseño tiene virtudes evidentes. Regula capacidad demostrada y no pánico. Fija umbrales cuantificables, se apoya en evaluadores externos con plazos de notificación y pone a un juez entre la sospecha y la sanción. Es casi un calco de la gobernanza anticipatoria que venimos defendiendo: fijar el procedimiento antes de que haga falta. Pero hay que leer también lo que conviene a quien lo escribe. Un listón de 1.000 millones o 50 víctimas deja fuera casi todo el daño cotidiano, como el fraude automatizado, la desinformación o la discriminación, que es precisamente el riesgo de corto plazo que más nos preocupa. Que paguen los auditados reproduce el viejo problema de las agencias de calificación. Y blindar el sistema frente a otras agencias funciona, en la práctica, como una cláusula de exclusividad regulatoria.

Nuestra lectura: es la propuesta más seria que ha salido de un laboratorio de frontera. Sirve como plantilla para el debate, no como texto definitivo. El Congreso debería quedarse con la arquitectura de evaluación independiente, notificación obligatoria y control judicial. Y debería discutir con datos los umbrales, la financiación de las auditorías y el alcance de esa preferencia sobre otras agencias. Que la industria proponga reglas no es malo en sí mismo. Lo sería que nadie más las revisara. Una gobernanza de catástrofes creíble es condición para que la IA pueda llegar a lo que prometemos a largo plazo, como curar enfermedades o generar abundancia, sin que antes la frene una crisis de confianza.