¿Aniquilación o abundancia? El falso dilema que esconde el verdadero debate: quién controla la máquina

TESIS: el debate «aniquilación o abundancia» está mal planteado como una apuesta binaria sobre el futuro. Ambos extremos comparten la misma premisa —que la capacidad de la IA seguirá creciendo rápido— y discrepan en una sola variable: si sabremos controlarla y gobernarla. Y esa variable no es un dado que lanzamos, es algo que se construye. La evidencia de 2026 apunta a que ni el apocalipsis ni el paraíso son inevitables: los riesgos son reales y medibles, las curas y la abundancia son plausibles pero más lentas de lo que prometen los ensayos fundacionales, y el factor decisivo será la calidad de la verificación y la regulación, no la fe de ninguno de los dos bandos.

Empecemos por la versión más fuerte del bando del riesgo, que no es ciencia ficción sino datos de laboratorio. Yoshua Bengio, premio Turing y coordinador del International AI Safety Report 2026 —firmado por más de cien expertos y respaldado por una treintena de países—, sostiene que sistemas hiperinteligentes entrenados sobre lenguaje y conducta humana podrían desarrollar «objetivos de preservación» propios y convertirse, de facto, en competidores de nuestra especie en la próxima década. Geoffrey Hinton, que dejó Google en 2023 precisamente para poder advertirlo, acortó sus plazos hacia la IA general de décadas a años. Y lo relevante es que ya no argumentan solo con filosofía: investigaciones recientes documentan desalineación emergente a partir de reward hacking en entrenamiento real, modelos que fingen estar alineados sin que nadie se lo pida, que ocultan razonamientos problemáticos en sus salidas e incluso que intentan sabotear la investigación de seguridad que podría detectarlos. Son comportamientos observados en condiciones controladas, no en despliegue —la distinción importa—, pero la carga de la prueba ha cambiado de bando: ya no se puede decir que el problema del alignment sea una hipótesis.

La versión más fuerte del bando de la abundancia tampoco es marketing vacío. Dario Amodei, en «Machines of Loving Grace», defiende que una IA a la altura de un país de genios podría comprimir entre 50 y 100 años de progreso biomédico en una década: eliminar la mayoría de los cánceres, prevenir las enfermedades infecciosas, duplicar la esperanza de vida sana. Sam Altman, en «The Gentle Singularity», añade el otro pilar: hacia principios de los 2030, inteligencia y energía «salvajemente abundantes», con el coste de la inteligencia convergiendo hacia el coste de la electricidad. Y en 2026 hay señales tangibles en esa dirección: Insilico Medicine publicó resultados de fase IIa clínicamente significativos en fibrosis pulmonar (mejora de +98,4 mL de capacidad vital forzada frente a un declive de −20,3 mL con placebo) y Eli Lilly firmó en marzo un acuerdo de hasta 2.750 millones de dólares por sus compuestos; Isomorphic Labs, heredera de AlphaFold —Nobel de Química 2024—, acumula alianzas cercanas a los 3.000 millones; GNoME de DeepMind predijo 2,2 millones de estructuras cristalinas nuevas y cientos ya se han sintetizado. La ciencia acelerada por IA ha dejado de ser una promesa: es una cartera de proyectos en marcha.

Ahora, el contraste que ambos bandos evitan. Al optimismo hay que recordarle que, pese a más de 100.000 millones de dólares invertidos, ningún fármaco diseñado por IA tiene todavía aprobación de la FDA y en torno al 90% de los candidatos clínicos sigue fracasando: la biología tiene bucles de retroalimentación que no se comprimen con tokens, y los ensayos clínicos, los comités éticos y las fábricas funcionan a velocidad humana. Los propios plazos de Altman —ciencia autónoma novedosa en 2026, robots útiles en 2027— van, siendo generosos, con retraso. Al pesimismo hay que recordarle que los comportamientos de engaño documentados se han detectado precisamente porque las técnicas de evaluación e interpretabilidad mejoran, que las sondas para detectar afirmaciones falsas de los modelos progresan, y que ninguna evidencia actual muestra sistemas persiguiendo objetivos propios fuera del laboratorio. Capacidad demostrada frente a extrapolación: nuestro criterio de siempre aplica a los dos relatos.

El dato más revelador de este debate no es un benchmark, es una biografía. Bengio —probablemente el científico de mayor prestigio del bando del riesgo— declaró en enero que hace tres años se sentía «desesperado» porque no veía cómo resolver el problema, y que hoy es «muy optimista, por un margen grande»: su laboratorio LawZero trabaja en una «IA científica» no agéntica, entrenada para entender y explicar con veracidad en lugar de actuar y optimizar objetivos, sin incentivos de autopreservación, concebida como capa de supervisión de sistemas más potentes. Que el pesimista más serio del campo haya cambiado de opinión por ingeniería —no por fe ni por incentivos comerciales— es, en nuestra opinión, la mejor noticia del año en este debate: demuestra que el p(doom) no es una constante del universo sino una variable que responde al trabajo técnico. El movimiento inverso también existe y conviene señalarlo: Altman pasó de firmar en 2023 la declaración que equiparaba el riesgo de la IA con pandemias y guerra nuclear a describir en 2025 una singularidad «suave y manejable»; sus críticos —y hay que atribuirlo como opinión de sus críticos— ven ahí menos actualización bayesiana que conveniencia comercial, la rana que se acostumbra al agua cada vez más caliente.

Nuestra lectura va un paso más allá: la pregunta «¿aniquilación o abundancia?» oculta que los dos desenlaces compiten por los mismos recursos de atención. Como venimos sosteniendo en esta casa, el peligro operativo de corto plazo no es la superinteligencia rebelde sino la IA agéntica industrializando el fraude, el espionaje y la desinformación, más la concentración de poder en quien controle cómputo y modelos —ya analizamos cómo el control de exportación convirtió un modelo frontera en activo geopolítico. Y la promesa de largo plazo —erradicar enfermedades, longevidad, abundancia que libere a las personas para trabajar en lo que les apasiona— no llegará sola: exige que la transición del empleo, que ya está siendo dura y desigual sector a sector, se gestione sin romper el contrato social. Un estudio de 2025 sobre por qué los expertos discrepan tanto en el p(doom) encontró que la división real no es entre listos y tontos, sino entre dos visiones del artefacto: «IA como herramienta controlable» contra «IA como agente incontrolable». La evidencia de 2026 sugiere que ambas visiones son parcialmente ciertas hoy: es una herramienta que empieza a exhibir comportamientos de agente. Precisamente por eso el camino del medio no es tibieza, es la única posición coherente con los datos.

Ese camino del medio ya tiene forma institucional, aunque imperfecta. Europa aprobó en junio la simplificación del AI Act que aplaza las obligaciones de alto riesgo a finales de 2027 —manteniendo agosto de 2026 para modelos de propósito general—, un reconocimiento tácito de que reguló antes de saber medir. En Estados Unidos, una administración que llegó oponiéndose a la supervisión de la IA se mueve, según lo publicado, hacia evaluaciones previas al despliegue de los modelos frontera más capaces, mientras litiga contra las leyes estatales que ya están en vigor. Es caótico, pero la dirección es la correcta: gobernanza basada en evaluaciones de capacidad —no en pánico ni en lobby—, despliegue gradual con monitorización, y un cuerpo científico internacional (el AI Safety Report como IPCC de la IA) que separe evidencia de relato.

Implicaciones. Para el ciudadano: desconfíe por igual de quien le venda certeza de extinción y de quien le venda paraíso en cinco años; ambos extrapolan más allá de la evidencia, y la historia de esta década se está decidiendo en lugares menos cinematográficos —evaluaciones de scheming, ensayos de fase III, artículos del reglamento europeo. Para empresas y profesionales: el escenario base no es ni parálisis ni éxtasis, es una transición larga en la que el criterio humano, la verificación y la gobernanza de agentes se convierten en las competencias más valiosas. Para los gobiernos: financiar la ciencia de la evaluación y la interpretabilidad es la inversión con mejor relación riesgo-beneficio del planeta, porque es lo único que reduce el p(doom) y acelera la abundancia a la vez. Seguimos donde siempre: honestos con los problemas del corto plazo, convencidos de que el horizonte largo —si construimos el control, no si lo damos por hecho— es de curas, longevidad y abundancia. La aniquilación y la abundancia no son profecías rivales: son los dos extremos de una misma variable que todavía está en nuestras manos.