El proyecto de ley de Anthropic fija el listón en 50 muertos o 1.000 millones: ¿gobernanza seria o autorregulación a medida?

Por Yahoo (vía Politico y Tom's Hardware) · 18 de octubre de 2026.

Anthropic ha propuesto a legisladores de EE. UU. un proyecto de ley de seguridad de la IA. Según el borrador confidencial que reveló Politico, el Gobierno solo podría actuar contra un modelo concreto si este plantea un riesgo «previsible e inminente» de más de 1.000 millones de dólares en daños, o de matar o herir gravemente a más de 50 personas.

El riesgo, además, debe proceder de tres vías: la creación o difusión de un arma biológica, un modelo que eluda los controles de su desarrollador, o un ciberataque. Según Politico, el texto guarda similitudes con la legislación de IA de California.

Un portavoz de la empresa afirmó que el borrador recoge las propuestas de su «Advanced AI Framework», que defiende ante legisladores federales y estatales desde junio. Lo describió como «políticas sensatas» que el Congreso debería aprobar.

La fuente original, Yahoo, añade una lectura crítica propia: sostiene que los grandes directivos de la IA usan advertencias de catástrofe teórica para fabricar consentimiento a favor de su autorregulación, mientras se atiende poco el daño actual. Recuerda también que este año dimitió el responsable de seguridad de Anthropic con el mensaje «el mundo está en peligro», y que, según el mismo medio, ocho fiscales generales estatales acusaron la semana pasada a OpenAI de ignorar sus propias alertas de seguridad por beneficio. Son afirmaciones de Yahoo y de esos terceros, no hechos que podamos verificar aquí.

**Nuestra lectura.** El borrador tiene un mérito claro: apuesta por intervenir según riesgos concretos y medibles, no por regular el pánico. Eso encaja con la gobernanza basada en evidencia que defendemos. Un umbral cuantitativo da previsibilidad a la industria y evita frenar el progreso por miedos difusos.

Pero el diseño es muy estrecho. Un umbral de «más de 50 víctimas» o «1.000 millones» y de carácter «inminente» activa la intervención cuando el daño ya está casi hecho. Deja fuera los perjuicios graduales y acumulativos: desinformación, fraude automatizado, concentración de poder o efectos psicológicos. Como contexto del sector, esos son precisamente los riesgos de corto plazo que ya se materializan, y los que más preocupan a quien mira más allá de las armas biológicas.

La crítica de Yahoo, aunque sesgada en el tono, apunta a un problema real: quien escribe la norma influye en cómo se mide el riesgo. Que una empresa del sector proponga el listón no invalida la idea, pero obliga a contrastarla con reguladores independientes, académicos y la sociedad civil. Ninguna empresa debería ser juez y parte de su propio umbral.

Nuestra posición es de optimismo matizado. A largo plazo, la IA puede ayudar a erradicar enfermedades y generar abundancia. Esa promesa exige una transición bien gobernada, y eso pasa por cubrir también los daños pequeños y difusos, no solo los catastróficos. Un buen marco necesita al menos dos capas: un suelo duro para los riesgos extremos, como propone Anthropic, y mecanismos de vigilancia y rendición de cuentas para los daños cotidianos.

Lo que conviene vigilar es si el Congreso toma este borrador como punto de partida o como techo. Si es el punto de partida, puede ser una base razonable. Si es el techo, será un escudo con apariencia de control.