Musk respalda a Amodei sobre el riesgo del AGI: el debate existencial es cómodo porque desplaza a los peligros ya medibles

Elon Musk ha respaldado públicamente la última advertencia de Dario Amodei, consejero delegado de Anthropic, sobre los riesgos de la inteligencia artificial general. «Tiene razón», escribió Musk, que además recordó que «he estado dando la voz de alarma sobre la IA durante mucho tiempo» y rescató un mensaje suyo de 2014: el AGI «representa un riesgo significativamente mayor que las armas nucleares». La chispa, según el relato de El Ecosistema Startup, la encendió Jacob Coxon, exinvestigador de Anthropic, al afirmar que las empresas del sector «están corriendo directo hacia la superinteligencia auto-mejorable» y que sus líderes «creen sinceramente que podría matarnos a todos antes de que termine la década», declaraciones recogidas por Gizmodo.

Lo interesante es que Amodei no siguió el tono apocalíptico. Reconoció que «hay cierta probabilidad de que algo vaya mal», pero pidió «pensar en cómo se descomponen estas probabilidades: cuáles son los caminos en los que las cosas salen bien y cuáles son los que salen mal», según recogió La Razón. Y aterrizó una propuesta en tres pasos: evaluadores externos embebidos dentro de los laboratorios, coordinación de estándares de seguridad entre empresas y gobiernos, y coordinación global que incluya incluso a gobiernos autoritarios. Sobre la mesa dejó una escala de acuerdos de dificultad creciente: prohibir los usos obviamente malignos —armas biológicas—, un «límite de velocidad» a la auto-mejora recursiva y, como techo, una pausa total pactada entre gobiernos, que él mismo calificó de «bastante improbable». Musk, por su parte, propuso en julio a The Economist que las empresas competidoras se auditen mutuamente los modelos antes de lanzarlos.

Y luego está el contrapunto, que es tan relevante como el titular. Un preprint publicado en Nature en marzo encuestó a cerca de 4.000 investigadores de IA: solo el 3% señaló el «riesgo existencial» como su principal preocupación, muy por detrás del uso malicioso, el impacto laboral y el propio hype del sector. Casey Mock, investigador de política tecnológica de la Universidad Duke, lo formuló con claridad: «la carga de la prueba debería recaer sobre quienes afirman que vamos en un tren fuera de control hacia una superinteligencia que exterminará a la humanidad».

Nuestra tesis: esa brecha entre lo que dicen los consejeros delegados y lo que priorizan los investigadores no es una contradicción menor, es la clave de lectura. Los CEOs hablan de un riesgo futuro, no falsable y espectacular; sus propios investigadores señalan riesgos presentes, medibles y aburridos. El problema del encuadre existencial es que legitima la narrativa de la inevitabilidad —si esto es tan poderoso como una bomba nuclear, es que funciona y es que va a llegar— y al mismo tiempo desplaza el foco de lo que ya está causando daño hoy: fraude automatizado, agentes que se saltan sus propias restricciones, desplazamiento laboral desigual y concentración de capacidad en cinco empresas.

Nuestra lectura: de todo el paquete de Amodei, lo valioso es la parte menos comentada. Los evaluadores externos embebidos en los laboratorios son la única medida verificable de la lista, y convertirían la transparencia de acto voluntario en obligación auditable. La pausa global es política ficción; la auditoría cruzada entre competidores que sugiere Musk tiene un conflicto de interés evidente. Que Amodei pida descomponer probabilidades en lugar de agitar el fin del mundo es, paradójicamente, lo más útil que ha dicho: gobernanza basada en evidencia, no en pánico. Seguimos pensando que el horizonte largo de esta tecnología —enfermedades tratadas, vidas más largas, abundancia— justifica construirla. Precisamente por eso conviene que quien la construye no confunda advertir con vender.