Un 33% de riesgo de extinción «aceptable»: cuando el debate de seguridad se vuelve aritmética inquietante

De acuerdo con lo publicado, Anthropic habría incorporado a un economista que ha defendido que una probabilidad del 33% de extinción humana sería un coste aceptable. La afirmación, tal como se reporta, resulta deliberadamente impactante, y conviene atribuirla a su protagonista y a la fuente: no es la postura oficial de la compañía ni un hecho consumado, sino una posición intelectual que ahora entra en una empresa de frontera.

El episodio ilustra una corriente real dentro del debate sobre seguridad de la IA: la tentación de reducir el riesgo existencial a un cálculo coste-beneficio, como si se tratara de optimizar una función. Hay algo valioso en intentar cuantificar lo incuantificable —obliga a explicitar supuestos—, pero también algo profundamente peligroso en normalizar cifras como «un tercio de probabilidad de extinción» como si fueran parámetros negociables. Que una compañía que ha hecho de la seguridad su bandera fiche perfiles con esa mentalidad merece, como mínimo, escrutinio público.

Nuestra lectura: aquí no caben ni la euforia ni el catastrofismo, sino la exigencia de gobernanza basada en evidencia. El riesgo a corto plazo que más nos preocupa es tangible —fraude, desinformación, concentración de poder—, no el apocalipsis especulativo; pero la cultura interna de quienes construyen estos sistemas sí importa, porque define qué riesgos se consideran tolerables en nombre del progreso. Defendemos un horizonte de abundancia y salud, y precisamente por eso rechazamos que la extinción se trate como una variable más en una hoja de cálculo. La pregunta correcta no es cuánto riesgo «aceptamos», sino quién decide, con qué legitimidad y bajo qué controles.