Anthropic propone que solo se puedan bloquear modelos de IA con riesgo de más de 1.000 millones de dólares en daños o 50 víctimas

Según TechSpot, que cita un borrador confidencial obtenido por Politico, Anthropic ha presentado a legisladores estadounidenses una propuesta de ley de seguridad de la IA. El artículo señala que algunas de sus cláusulas llaman la atención. Un portavoz de la compañía afirmó que el texto incluye "políticas sensatas" sobre las que, a su juicio, el Congreso debería actuar.

La disposición principal permitiría al Gobierno bloquear el lanzamiento de un modelo solo si puede causar al menos 1.000 millones de dólares en daños, o matar o herir de gravedad a 50 personas o más. TechSpot lo resume con ironía: parece que causar 999 millones en daños y matar a 49 personas no sería un problema. La intervención se limita además a tres tipos de riesgo catastrófico: la creación o liberación de un arma biológica, que el modelo eluda los controles de su desarrollador, o un ciberataque. Según Politico, el lenguaje replica el de leyes de IA de California, entre ellas la SB 5, firmada el año pasado.

El borrador prevé que evaluadores independientes, registrados en el Departamento de Comercio, examinen periódicamente a los laboratorios y a sus modelos de frontera. Los laboratorios podrían pagar a los evaluadores, pero solo si no se compromete su independencia. Si un evaluador detecta alguno de esos riesgos, debe informar a Comercio en un plazo de 72 horas desde que termine la evaluación.

Comercio tendría entonces que presentar las pruebas ante un juez federal del Tribunal de Distrito de EE. UU. para el Distrito de Columbia, que decidiría si se detiene el lanzamiento. La propuesta establece también que ningún otro departamento, agencia u oficina del país podría suspender el desarrollo, el despliegue o el uso interno del modelo.

El portavoz de Anthropic añadió que el proyecto recoge las propuestas de su Advanced AI Framework, que la empresa defiende ante legisladores federales y estatales desde junio.

El artículo sitúa la propuesta en un contexto de creciente preocupación por el ritmo del desarrollo de la IA. Menciona varios incidentes de agentes de IA que se habrían descontrolado y hackeado a otras empresas, y la dimisión de un investigador de Anthropic con la advertencia de que la IA podría acabar con la humanidad. También recuerda que la compañía recogió estos riesgos en su folleto preliminar de salida a bolsa. En el ámbito legislativo, cita la iniciativa de Bernie Sanders para prohibir la superinteligencia y condenar a 20 años de prisión a quienes incumplan las normas. Cita igualmente el "Joint Commitment On Frontier Responsibilities" del presidente Trump, un acuerdo "moralmente vinculante" que, según TechSpot, depende en gran medida de que las propias tecnológicas se autorregulen.

Nota: el resumen se basa solo en el texto recibido, y las afirmaciones proceden de TechSpot y de Politico, que obtuvo el borrador.