Thinking Machines Lab presenta Inkling 2 Small: MoE de 594B parámetros con visión, foco agéntico y pesos abiertos previstos

Aviso previo: el texto recibido está cortado hacia el final, durante el ejemplo de la cata de vinos. No se han recibido las secciones sobre personalización, razonamiento y epistemología, seguridad y alineamiento, entrenamiento, benchmarking ni limitaciones. Este resumen se basa solo en lo que sí aparece en el material.

Thinking Machines Lab presenta Inkling 2 Small, el primer modelo de su segunda generación. Es un modelo Mixture-of-Experts con 594.000 millones de parámetros totales y 17.000 millones activos. Admite entradas de imagen y esfuerzo variable. La compañía afirma que supera con claridad a sus modelos anteriores en el Artificial Analysis Intelligence Index, con una puntuación de 31. Atribuye la mejora a agentes de código, visión, trabajo de conocimiento y razonamiento. También dice que la mejora viene de mejoras en cada etapa del entrenamiento, como un preentrenamiento más eficiente y una gran ejecución unificada de aprendizaje por refuerzo (RL).

Disponibilidad: al principio el modelo solo se ofrece a través de Tinker, con pesos cerrados. La empresa lo enmarca en el enfoque que describió en «a safe path to open weights». Su intención es publicar los pesos completos con licencia Apache 2.0 la semana siguiente, cuando terminen las pruebas de seguridad externas y el red-teaming. Ya se puede probar en el Tinker Playground y está disponible para ajuste fino y muestreo en Tinker. Los checkpoints se podrán descargar cuando se liberen los pesos.

Capacidades generales: según la empresa, el modelo mejora en todos los frentes respecto a la primera generación, sobre todo en trabajo autónomo de largo horizonte. Combina visión y capacidades agénticas para incorporar retroalimentación visual y refinar de forma iterativa webs, juegos y diseños 3D con elementos interactivos. Entre las demostraciones se citan estas:

• Un simulador de ciudad hecho con Three.js, sin recursos prefabricados. Genera de forma procedural edificios, texturas y coches, y el usuario gestiona energía, presupuestos y emergencias. • Un emulador de PC escrito desde cero en Python, que arranca un kernel real de Linux y ofrece una interfaz web para lanzar una instancia en el navegador. • Una escena de valle dibujado a mano con grullas de origami, generada en Blender y revisada con mejoras en el agua y la chimenea. • Un recorrido por un plano de planta generado a partir de un mapa.

Código agéntico y autoinvestigación: el modelo se entrenó con RL en cientos de miles de tareas de programación de largo horizonte. Estas usaban varios arneses de agente y distintas estrategias de compactación de contexto. La empresa mejoró su canal de datos sintéticos de código y fue más allá de las recompensas por tests unitarios. Muchas tareas incluían un evaluador agéntico de RL que juzgaba cómo abordaba el problema el modelo, no solo si el código pasaba las pruebas. Además, probó checkpoints tempranos en OpenCode bajo el nombre Fledge-Alpha. Según la empresa, el resultado sigue mejor las instrucciones, considera los cambios con cuidado y verifica su trabajo sin que se lo pidan.

Resultados en la tabla de código y autoinvestigación (columnas: Inkling 2 Small, GLM-5.3-Flash, DeepSeek-V4.1-Flash-1017, Muse Spark Open, Kimi K3):

• FrontierCode v2.0: 25,4 %, 14,2 %, 28,5 %, 7,6 % y 17,3 %. • DeepSWE v1.1: 72,1 %, 63,4 %, 77,0 %, 60,0 % y 68,5 %. • SWEBench Pro v2 (Hard): 86,3 % para Inkling, 82,4 % para Muse Spark Open y 88,2 % para Kimi K3. No hay dato para GLM ni DeepSeek. • Vibe Code Bench v1.1: 81,6 %, 30,8 %, 87,7 %, 76,2 % y 85,0 %. • PostTrainBench v1.2: 31,9 % para Inkling, frente al 36,8 % de GLM-5.3-Flash, el más alto de la fila. • Terminal Bench Science v0.1: 5,7 %, 4,8 %, 12,9 %, 1,9 % y 8,1 %.

En estas tablas Inkling 2 Small queda segundo en varias filas, pero no primero en ninguna de las de código.

Optimización de kernels (PMPP-Hard): es un benchmark externo de optimización de kernels de GPU, adaptado por la empresa. Tiene 69 tareas, cuatro intentos independientes y 10 horas de presupuesto. Cada modelo usa su máximo ajuste de razonamiento, el arnés PI y una política de compactación compartida. Cada solución recibe dos auditorías independientes de LLM, y una tercera revisión resuelve los desacuerdos. Los resultados (tareas resueltas de media sobre 69, y pass@4) fueron estos:

• GPT-6 Astra: 63 de media y pass@4 de 63. • Kimi K3.1 Pro: 60,5 y 63. • Claude Opus 5.5: 60 y 64. • Kimi K3: 55,75 y 66. • DeepSeek V4.1 Flash: 55,25 y 62. • Inkling 2 Small: 54,25 y 64. • Mistral Large 4: 50,25 y 61. • GLM 5.3: 52,5 y 61. • GLM 5.2: 42 y 61.

El orden de la tabla es por el área bajo la curva (AUC) en 10 horas, con un máximo de 690 tareas-hora. Inkling 2 Small obtiene 494,27, por debajo de GPT-6 Astra (616,39), Kimi K3.1 Pro (583,86), Claude Opus 5.5 (499,65) y DeepSeek V4.1 Flash (497,36). En esa tabla queda por encima de Mistral Large 4, Kimi K3, GLM 5.3 y GLM 5.2.

Autoinvestigación de kernels (resultados preliminares): la tarea era acelerar los kernels de entrenamiento de DeepSeek Sparse Attention (V3.2), hacia delante y hacia atrás. Partía de los kernels públicos de TileLang, con error cercano al original (tolerancias estrictas) y sin límite de tiempo. La base pública no está ajustada para B300, lo que deja mucho margen de mejora. Las aceleraciones son solo de estos kernels, no del entrenamiento de extremo a extremo. Los resultados fueron: Claude Opus 5.5, 18,80×; GPT-6 Astra, 10,26×; Inkling 2 Small, 6,02×; DeepSeek V4.1 Flash, 5,66×; GLM 5.3, 5,03×; y Mistral Large 4, 3,43×.

Caso de autoinvestigación de extremo a extremo: en una tarea que Proximal creó para uno de los benchmarks internos de la empresa, Inkling 2 Small entrenó de forma autónoma un Qwen3.5-4B en Tinker para predecir series temporales, como el tiempo meteorológico y las visitas a páginas de Wikipedia. Tenía 12 horas y un presupuesto de 500 dólares en Tinker. El modelo analizó la tarea, escribió su propio evaluador, probó conjuntos de datos y recetas, y ensayó distintos enfoques de SFT y RL mientras depuraba el proceso. Tras unas 4,5 horas de trabajo (el registro indica 4 h 17 min) y 426 dólares de gasto en Tinker, el modelo entrenado había más que duplicado su puntuación de pronóstico. El registro de la ejecución permite reconstruir el proceso:

• Construyó una evaluación con una referencia sencilla: copiar los últimos valores hacia delante. • Convirtió el histórico hasta mayo en 12.500 problemas de entrenamiento. • Detectó un fallo en su propia evaluación: había usado la misma semilla para los 8 pronósticos, que salían idénticos, mientras que el evaluador final usa 8 semillas distintas. • Con una referencia corregida, el Qwen3.5-4B base marcaba 0,191. El primer SFT subió a unos 25 %. • Notó que las evaluaciones eran caras (101 dólares gastados) y redujo el coste pidiendo los 8 pronósticos en una sola petición, de modo que el prefill se hace una vez. • Reentrenó con todo el histórico hasta el 31 de julio (SFT 2, 0,269). • Probó RL con la puntuación de la tarea como recompensa, pero los pronósticos se volvieron demasiado confiados y la puntuación bajó (26 % y luego 23 %), así que detuvo la ejecución. Comprobó que la dispersión de los pronósticos del SFT 2 ya era razonable, por lo que el RL tenía poco que mejorar. • Una segunda época sobre los mismos datos no ayudó (SFT 3, 25 %). • Una breve ejecución adicional solo con los últimos 12 meses dio su mejor modelo (SFT 4, 0,289). Probar con los últimos dos años (SFT 5) o siete meses (SFT 6) empeoró el resultado. • Envió el SFT 4 y se detuvo. En datos no vistos de agosto y septiembre, el modelo final comete cerca de un 15 % menos de error que el modelo base.

Visión: Inkling 2 Small procesa imágenes con un codificador de visión de 292 millones de parámetros basado en Perception Encoder (Bolya et al., 2025). Usa parches de 20×20 píxeles con pooling espacial 2×2 e intercala los parches de imagen con tokens de texto. La empresa destaca un buen rendimiento en OCR, anclaje (grounding), interpretación de infografías y razonamiento visual. En su tabla comparativa (frente a GLM-5.3-Flash, DeepSeek-V4.1-Flash-1017, Muse Spark Open y Kimi K3), Inkling 2 Small tiene la puntuación más alta en:

• GDP.pdf (25,2 %). • MMMU Pro Standard 10 (81,6 %). • PerceptionBench (64,7 %). • Humanity's Sixth Sense (33,3 %). • ScreenSpot Pro (83,8 % original y 91,5 % con Python). • BabyVision en su versión original (68,6 %). Con Python, 93,7 % para Inkling frente a 92,5 % de DeepSeek. • Charxiv RQ en su versión original (85,6 %). Con Python, Kimi K3 obtiene 91,3 %, por encima del 87,7 % de Inkling. • Chartography (36,7 % original y 80,4 % con Python), aunque con Python DeepSeek llega a 83,0 %. • AA-3D (1021).

En Code Arena (WebDev) obtiene 1653, por debajo de DeepSeek (1665) y Kimi K3 (1656). En Code2Video-AA obtiene 1020, por debajo de Kimi K3 (1041).

DesignArena: el modelo usa visión dentro del bucle para interpretar y validar el resultado visual que genera. A la espera de la publicación de sus pesos, la empresa dice que está llamado a ser el mejor modelo de pesos abiertos en DesignArena. En el ranking de webs del 5 de noviembre aparece con 1.340 puntos. Está por detrás de Muse Wonder (max, 1.366) y Muse Spark 1.3 (xhigh, 1.351), y por delante de GPT-6 Astra (max, 1.333), Kimi K3 (1.328), Claude Opus 5.5 (1.321) y Kimi K3.1 Pro (1.320). La propia empresa señala que las barras de la gráfica empiezan en 1.100, no en cero, y que la comparación incluye a los diez mejores modelos y a tres modelos de pesos abiertos adicionales.

Una anécdota que cuenta la empresa: enfrentó al modelo con algunos de sus investigadores en una cata de vinos a ciegas. Según ella, el modelo los superó usando solo la visión, y acertó tres vinos (dos Cabernet Sauvignon de 1999 y 2019 y un Nebbiolo de 2023) a partir de una foto en 19 de 20 intentos. En el ejemplo reproducido, el modelo advierte de que el color de una foto de móvil bajo luz cálida es una evidencia débil. Razona por intensidad de color y opacidad: el Nebbiolo es el más claro y translúcido, el Cabernet de 2019 el más oscuro y el de 1999 queda en un punto intermedio, más apagado. Reconoce además que la iluminación irregular puede distorsionar la lectura.

Conclusión: Inkling 2 Small se presenta como un modelo MoE con 17B parámetros activos y pesos abiertos prometidos en pocos días. Destaca sobre todo en visión y presenta resultados competitivos, aunque no líderes, en código agéntico. La lectura que ofrece la empresa de sus propias gráficas favorece al modelo, y los resultados de kernels son preliminares. Habrá que esperar a la liberación de los pesos con licencia Apache 2.0 y a los resultados de las pruebas de seguridad externas para verificar de forma independiente estas afirmaciones.