Como edición genética para redes neuronales: investigadores del MIT usan GPT-6 Astra para editar los pesos de un Qwen y mejorar sus matemáticas

Investigadores del laboratorio CSAIL del MIT informaron el 2 de noviembre de 2026 de que usaron el modelo GPT-6 Astra de OpenAI para editar directamente los pesos de un modelo pequeño de código abierto, Qwen3.5-0.8B. Según el artículo de VentureBeat, su puntuación en MATH-500 pasó del 7,9 % al 48,1 %, es decir, aproximadamente seis veces más, modificando alrededor del 0,016 % de sus pesos. Los autores (Rikiya Takehi, Jayden Teoh, Alex Zhang y Omar Khattab) llaman a su enfoque «programación en el espacio de pesos» (weight-space programming).

La idea central es que un modelo de lenguaje ya entrenado examine los pesos de otra red, razone sobre su función y decida qué cambiar, sin el procedimiento habitual basado en gradientes. El entrenamiento convencional (fine-tuning, otros métodos de post-entrenamiento, reentrenamiento) calcula los cambios a partir de ejemplos, retroalimentación o recompensas. Aquí, en cambio, un modelo inspecciona la red objetivo, investiga su comportamiento y propone parches directos. En algunos experimentos los pesos se entregaron como texto; en otros, Astra recibió un entorno controlado de Python para explorar redes más grandes. Takehi lo resumió así: los modelos podrían tratar los pesos en bruto como código legible y editable, diagnosticando fallos y parcheándolos directamente.

El experimento con Qwen es el más detallado. Los investigadores dieron a Astra preguntas de práctica, acceso a los pesos mediante Python y un presupuesto limitado de ejecuciones del modelo. Según la documentación del experimento, además de MATH-500 (7,9 % a 48,1 %), el modelo editado mejoró en GSM8K (13,8 % a 67,1 %) y en IFEval, de seguimiento de instrucciones (21,0 % a 62,3 %). Las respuestas de MATH-500 que llegaban al límite de tokens bajaron del 93,0 % al 33,1 %.

Ese último dato es la clave para interpretar el resultado. Los autores atribuyen la mejora a que Astra eliminó una dirección numérica asociada a la repetición en componentes seleccionados de las capas 15 y 19, lo que supuso tocar 131.072 pesos. Antes de la intervención, Qwen repetía texto con frecuencia hasta agotar la longitud de salida permitida. El parche redujo ese bloqueo y permitió al modelo terminar más respuestas con capacidades que ya tenía. Es una reparación, no una inyección de conocimiento matemático: el artículo subraya que el experimento no demuestra que Astra haya añadido seis veces más matemáticas a Qwen.

El parche final fue pequeño, pero encontrarlo exigió bastante trabajo. En el intento más fuerte se permitieron 50 solicitudes de evaluación, cada una con potencialmente cientos de ejemplos. Ese intento supuso 158 turnos de conversación, 80 ejecuciones de Python y 20,3 horas, de las cuales 4,7 se perdieron esperando por una caída de un servicio. Por eso el trabajo no demuestra que la edición directa sea más rápida, barata o eficaz que el entrenamiento convencional; esos ahorros todavía no están establecidos.

Los investigadores hicieron más pruebas. Según el anuncio de Takehi, Astra identificó cuatro redes que jugaban a Breakout, Pong, Pac-Man y Freeway pese a que compartían arquitectura, entradas y acciones disponibles, sin recibir herramientas ni una lista de juegos candidatos. En una tarea de conducción simulada, un controlador entrenado se quedaba atascado en una rampa. Con los pesos, una descripción de la escena y una trayectoria fallida, Astra devolvió un parche en una sola respuesta. Modificó el 3,5 % de los pesos y el resultado reportado fue un 100 % de éxito.

También se le pidió construir redes desde las reglas y el código fuente de juegos simplificados (MinAtar), sin poder probarlas antes de la evaluación. Su red para Breakout obtuvo 517,4 puntos, frente a 25,3 de una red equivalente entrenada con PPO durante 500 millones de pasos, una ventaja de unas 20 veces. En Seaquest quedó por detrás de las redes PPO de 500 millones de pasos, y ligeramente por detrás en Asterix, aunque superó a las líneas base de 100 millones de pasos en los tres juegos. El artículo advierte de que las reglas suministradas y los entornos acotados dejan abiertas preguntas sobre la generalización.

Los resultados negativos son relevantes. Astra no logró establecer una mejora matemática en Gemma 3 270M, que a diferencia de Qwen en este montaje apenas caía en repeticiones prolongadas. Además, Astra no logró al principio distinguir un modelo entrenado para dar la razón al usuario (sicofancia) de otro entrenado para responder correctamente; solo lo consiguió cuando se le dieron mediciones de atención durante la ejecución. Esto indica que acceder a los pesos no basta siempre para explicar un comportamiento ni para intervenirlo con éxito. Una cuenta de X (@1a3orn) señaló que el hilo de anuncio omitía el fallo con Gemma, y cuestionó que el trabajo demuestre un razonamiento subyacente más fuerte: si hay un defecto claro, los LLM pueden ayudar a eliminarlo. Reconoció, eso sí, que los autores incluyeron los fracasos en su entrada de blog.

Las reacciones fueron dispares. Yuchen Jin (Databricks) y Chandan Singh (Voyage AI) comentaron los resultados con optimismo. En el extremo contrario, Maxime Fournes, CEO de PauseAI, escribió que, si fuera real, podría acelerar enormemente el progreso, algo que calificó de muy mala noticia y de línea de investigación «terriblemente imprudente». El artículo precisa que los experimentos no establecieron esas consecuencias, pero que su objeción refleja una tensión real: los métodos que ayudan a entender un modelo también podrían ayudar a aumentar sus capacidades. Tampoco se demostró un ciclo de automejora recursiva ni que las ganancias se acumulen.

En cuanto al contexto técnico, la edición directa de pesos no es nueva. ROME (NeurIPS 2022) modificaba asociaciones factuales en transformers y MEMIT (ICLR 2023) lo extendió a miles de asociaciones a la vez. La novedad aquí es usar un LLM de propósito general que investiga los pesos y diseña cambios en tareas muy distintas. Para valorar su utilidad práctica habría que compararlo con métodos de edición especializados, con el entrenamiento convencional y con intervenciones más simples, como ajustar parámetros de generación.

Para las empresas, las aplicaciones son por ahora hipótesis: los investigadores no reportan despliegues ni resultados de negocio. Se plantean usos como reparar modelos pequeños en flujos especializados (por ejemplo, un asistente local que se atasca al generar respuestas estructuradas) o apoyar auditorías conectando estructuras internas con comportamientos. La economía exigiría medición, porque descubrir y validar un parche tiene coste, y el estudio no demuestra una reducción de gasto paralela a la mejora de precisión. El acceso importaría: solo quien controla los pesos puede experimentar directamente, mientras que los clientes de una API alojada dependerían de su proveedor. La página oficial de Qwen indica licencia Apache 2.0. Cada parche debería gestionarse como una nueva versión del modelo, comparada con el original en tareas representativas, con revisión de cambios no deseados y una vía de vuelta atrás; son requisitos propuestos, no fallos que los investigadores hayan reportado.

El equipo publicó registros de los experimentos y los artefactos de edición, y dice estar desarrollando un benchmark y un marco de apoyo. Queda por demostrar si este enfoque puede servir para un mantenimiento fiable de modelos, para acelerar el desarrollo de capacidades o para ambas cosas, y si otros investigadores pueden reproducir los resultados.