AI Builds AI: ¿qué es lo que realmente está mejorando?

Por Turing Post · septiembre de 2026.

Turing Post retoma su calendario completo de publicaciones tras el verano y estrena una nueva serie llamada "AI Builds AI", dedicada a examinar con detalle qué significa realmente que la inteligencia artificial ayude a construir la siguiente generación de inteligencia artificial. El punto de partida es la tensión que se ha disparado esta semana en torno a la capacidad de la IA para mejorarse a sí misma.

El 6 de septiembre, OpenAI anunció que había alcanzado su objetivo de contar con un "becario de investigación de IA automatizado": un sistema capaz de ejecutar tareas de investigación bien definidas bajo dirección humana. Ese mismo día, su científico jefe, Jakub Pachocki, advirtió de que nadie está preparado para las consecuencias de que la inteligencia de las máquinas siga avanzando tan rápido, que ningún laboratorio ha resuelto todavía lo suficientemente bien la alineación y la supervisión como para seguir escalando a máxima velocidad, y que OpenAI aún no sabe cómo llegar de forma segura a una auto-mejora recursiva completa y alineada.

OpenAI también reconoce que no puede dar por hecho que el trabajo de seguridad vaya a mantener el ritmo: tras un incidente en Hugging Face en el que unos agentes comprometieron infraestructura de investigación, la compañía pausó el aprendizaje por refuerzo en los modelos destinados a despliegue mientras reforzaba esos entornos.

La autora plantea que la pregunta relevante no es si una advertencia suena dramática, sino qué se está mejorando en realidad, quién decide el siguiente cambio y cómo se comprueba el resultado. Esa es la razón de ser de la nueva serie.

El 8 de septiembre la temperatura subió más: el investigador de IA Jacob Coxon dimitió de Anthropic acusando tanto a esa empresa como a OpenAI de una carrera irresponsable hacia una superinteligencia auto-mejorable. Poco después, Evan Hubinger, líder de Alignment Science en Anthropic, escribió en X una frase que tuvo más de 115 millones de visualizaciones: "we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade" ("de verdad creemos honestamente que la IA podría matar a toda la humanidad; personalmente creo que hay más de un 10% de probabilidad en la próxima década").

La autora cuestiona esa cifra: una afirmación de más del 10% de probabilidad de extinción humana exige más explicación que una simple declaración de creencia personal. Sin detallar cómo se llegó a esa estimación ni qué evidencia la haría cambiar, este tipo de números alimenta el miedo sin ayudar realmente a entender el riesgo. Su interés declarado es entender ese riesgo en términos prácticos: qué ocurre cuando la IA empieza a contribuir a la investigación, al código y a las herramientas usadas para construir la siguiente generación de IA, cómo comprueban los investigadores ese trabajo, y qué cambia cuando los sistemas que hacen la comprobación también son IA.

Para esta primera entrega de la serie, los temas anunciados son: qué se está mejorando exactamente; una metáfora descrita como "un lápiz atado a un ladrillo"; por qué un modelo puede necesitar una herramienta de nivel más bajo; cómo es ya el bucle de retroalimentación actual; cómo el abaratamiento de la implementación cambia qué ideas merece la pena probar; si los modelos pueden aprender a distinguir qué vale la pena mejorar; cómo el propio evaluador pasa a formar parte del problema; y qué deberíamos registrar de este momento.

Como hilo conductor, la autora cuenta que habló con Phil Tillet (creador de Triton) y con Matthew Ferrari sobre ingeniería de inferencia en OpenAI. De esa conversación destaca un detalle: los modelos se han vuelto lo bastante capaces como para que algunas decisiones que antes tomaban automáticamente las herramientas de programación ahora les estorben. Los ingenieros están devolviendo esas decisiones al programador, que cada vez más es un modelo. Este detalle se usa como punto de partida concreto para examinar afirmaciones más grandes sobre autonomía de la IA, apoyándose en decisiones de ingeniería que ya se están tomando hoy.

El análisis distingue entre el "objeto" que se mejora y las decisiones que se permite tomar a la IA. Un modelo puede escribir una implementación más rápida de una operación matemática ya existente, proponer un método de entrenamiento que cambia el comportamiento de otro modelo, o ayudar a elegir el siguiente experimento; son contribuciones que ocurren en puntos distintos del proceso de desarrollo. El correo presenta tres niveles: (1) el sistema que ejecuta un modelo, donde la IA puede aportar kernels más rápidos, mejor planificación o menos cómputo redundante, quedando por establecer si una ganancia local mejora el sistema completo sin romper el comportamiento requerido; (2) un modelo en entrenamiento, donde la IA puede proponer cambios de arquitectura, datos o métodos de aprendizaje, quedando por establecer si la mejora generaliza más allá de las pruebas usadas para seleccionarla; y (3) el propio proceso de investigación, donde la IA puede mejorar la selección de experimentos o los métodos de evaluación, quedando por establecer si el sistema realmente se vuelve mejor, ronda tras ronda, a la hora de encontrar mejoras útiles.

Un modelo puede tener bastante autonomía escribiendo un kernel y necesitar, al mismo tiempo, guía detallada para decidir la pregunta de investigación: son dimensiones distintas del progreso, y no deben confundirse.

La autora subraya que la recursión añade un requisito adicional: las mejoras deben retroalimentar la capacidad de producir mejoras posteriores. Que un modelo escriba un script de entrenamiento útil ya es una contribución al desarrollo de IA; demostrar que esa contribución hace más efectiva la siguiente ronda de desarrollo es una afirmación más fuerte; y demostrar que ese ciclo puede continuar sin que haya personas dirigiéndolo es una afirmación todavía más fuerte. Bajo este marco, un becario automatizado que ejecuta tareas bien definidas bajo dirección humana no equivale a un sistema que elige mejores preguntas de investigación por sí mismo, y una probabilidad personal de extinción no mide ninguna de las dos cosas.

La autora señala que incluso el propio análisis de Anthropic, "When AI builds itself", admite explícitamente que el desarrollo totalmente autónomo de sistemas sucesores no se ha logrado y no es inevitable; y que el post de OpenAI sobre aceleración de la investigación dice, con otras palabras, lo mismo: la compañía todavía no sabe cómo llegar de forma segura a la auto-mejora recursiva completa y alineada. Pese a ello, concluye que el trabajo de ingeniería concreto merece examinarse, precisamente porque el resultado final sigue siendo incierto.

El correo introduce a continuación un apartado titulado "A pencil tied to a brick" ("un lápiz atado a un ladrillo"), pero el contenido de esa sección y de los siguientes puntos del índice —por qué un modelo puede necesitar una herramienta de nivel más bajo, cómo es el bucle de retroalimentación actual, el efecto de la implementación más barata, si los modelos pueden aprender qué mejorar, y el papel del evaluador— queda detrás del muro de pago de la newsletter ("Upgrade to read the rest"), por lo que no se puede resumir su desarrollo real a partir de este correo. El texto incluye también un enlace a la entrevista completa en YouTube con Phil Tillet y Matthew Ferrari, titulada "Does AI Understand the Machine It Runs On? | Inside OpenAI".