Microsoft lleva modelos de IA locales y herramientas en sandbox a Windows y GitHub Copilot

Microsoft ha publicado en su blog oficial Command Line (firmado por Patrick Nikoletich, de GitHub, y Stuart Schaefer, del equipo de Windows) un anuncio técnico sobre cómo GitHub Copilot empezará a decidir, de forma automática, cuándo conviene ejecutar una tarea de codificación con un modelo que corre en el propio dispositivo y cuándo conviene recurrir a modelos en la nube. La idea central es que el desarrollador ya no tenga que gestionar manualmente esa infraestructura: Copilot orquesta la elección detrás de escena, apoyándose en lo que la compañía llama 'Project HydraFusion', un orquestador que ya elegía entre varios modelos en la nube equilibrando rendimiento, coste y latencia, y que ahora se extiende también a la inferencia local como un entorno de cómputo más.

El caso de uso estrella son los PCs Windows con NVIDIA RTX Spark, como el Surface Laptop Ultra, equipados con hasta 128 GB de memoria unificada y hasta 1 petaflop de cómputo de IA. El artículo dedica una sección a explicar por qué la memoria es el verdadero cuello de botella de la inferencia local: en un chip con memoria unificada, CPU y GPU comparten el mismo pool físico, pero ese espacio también lo reclaman el sistema operativo, las aplicaciones, el runtime de inferencia y, de forma creciente, la caché de clave-valor que almacena el estado de atención de los tokens ya procesados. A medida que un agente lee archivos y recibe resultados de herramientas, el contexto crece y con él la presión de memoria, de modo que mantener un modelo cargado entre peticiones ayuda a evitar recargas, pero no garantiza por sí solo un tiempo de respuesta constante.

Para resolver ese reto, Microsoft AI ha desarrollado una versión local de MAI Code 1.1 Flash, un modelo de codificación tipo 'mixture-of-experts' con 137.000 millones de parámetros totales y 6.800 millones de parámetros activos. La versión on-device aplica cuantización y 'decodificación especulativa' (un modelo más pequeño propone bloques de tokens candidatos que el modelo objetivo verifica) para reducir el tamaño y mejorar la latencia sin sacrificar demasiado la calidad de las tareas de codificación y uso de herramientas, algo crítico porque un solo token erróneo en código puede provocar un error de sintaxis, un identificador equivocado o un diff roto. Según los datos publicados por Microsoft, la versión cuantizada usada en el dispositivo pesa 53 GB, frente al tamaño de la variante en la nube en Bfloat16, lo que supone una reducción de aproximadamente el 80%. En el Surface Laptop Ultra, el pico de uso de memoria alcanza los 75,5 GB con un contexto de 256k tokens, y el procesamiento de prompts llega a 923,5 y 769,8 tokens por segundo con contextos de 64k y 128k, respectivamente.

En cuanto a benchmarks de codificación, la tabla compartida en el artículo sitúa a MAI Code 1.1 Flash (variante en la nube) en 72,6% en SWE-Bench Verified y 62,9% en Terminal-Bench 2.1, frente a 32,0% y 23,6% de GPT-OSS-120B (usando la versión GGUF de Unsloth como comparación). La versión cuantizada y ejecutada localmente, pese a la reducción de tamaño, mantiene un rendimiento muy cercano al de la nube: 70,80% en SWE-Bench Verified y 66,29% en Terminal-Bench 2.1. Microsoft precisa que estas pruebas se realizaron el 5 de octubre de 2026 con cuantización mixta de aproximadamente 3,3 bits por peso, decodificación especulativa 'DFlash2' de ventana deslizante y un runtime llama.cpp con CUDA sobre Windows ARM64, y advierte de que los resultados reflejan una carga de generación de código sintética y pueden variar según el dispositivo y la configuración.

En la práctica, GitHub Copilot ofrecerá dos vías para usar modelos locales en su CLI, en la app de escritorio y en VS Code: un modo 'Auto', en el que la orquestación inteligente decide por sí sola cuándo usar inferencia local o en la nube a lo largo de una sesión de varios turnos, preservando el trabajo en caché útil; y una selección explícita de modelo, pensada para flujos de trabajo que necesitan un proveedor, modelo o endpoint concreto, ya sea eligiendo MAI Code 1.1 Flash a través del proveedor Windows ML o conectando Copilot a endpoints locales compatibles con la API de OpenAI. El artículo subraya que mover la inferencia al dispositivo no convierte la sesión en 'offline' sin más: selección de modelo, inferencia y ejecución de herramientas tienen límites distintos.

La segunda pata del anuncio es la seguridad de la ejecución de herramientas mediante sandboxing. Como los comandos de shell de un agente heredan normalmente los permisos de la cuenta que los lanza —algo que no cambia por ejecutar el modelo en local—, GitHub Copilot incorpora Microsoft Execution Containers (MXC), una librería de código abierto del equipo de Windows que traduce una política de acceso (archivos, redes, credenciales, capacidades del sistema) en controles nativos del sistema operativo, independientemente de qué modelo haya solicitado la acción. Según el artículo, en Windows se usa el nivel 'BaseContainer' del backend ProcessContainer, en macOS se usa Seatbelt y en Linux, bubblewrap; estos backends locales no requieren una máquina virtual o imagen de contenedor separada, aunque Microsoft dice que planea ofrecer esas opciones en el futuro a través de MXC. Cuando el sandboxing está activo, los comandos de shell y, por defecto, los servidores locales de Model Context Protocol (MCP) y los servidores de lenguaje se ejecutan dentro de ese límite de proceso; las herramientas de archivos integradas corren dentro del propio Copilot y sus peticiones se verifican contra la política vigente, aunque sin el aislamiento de proceso reforzado por el sistema operativo, y los servidores MCP remotos quedan fuera del sandbox de proceso local, verificándose su política de conexión dentro del propio proceso de Copilot. La configuración se gestiona con el comando `/sandbox` en la CLI de GitHub Copilot.

El artículo ilustra todo esto con un ejemplo práctico: un trabajo automatizado diario sobre el repositorio de código abierto `copilot-sdk` que genera cada mañana, a las 9:00, un panel HTML de triaje (issues y PRs abiertos, cerrados, fusionados, etiquetas, autores, elementos obsoletos, etc.) a partir únicamente de metadatos públicos de GitHub, sin tocar repos locales ni código, y que añade los resultados a un historial de hasta siete días. Activando el interruptor 'Sandbox new sessions' en la app de GitHub Copilot, el directorio de trabajo actual queda en lectura/escritura mientras el resto del sistema permanece mayormente inaccesible, y al seleccionar el modelo local MAI Code 1.1 Flash el agente puede generar y ejecutar scripts para construir el dashboard de forma local, con las barreras de protección del sandbox activas, antes de inspeccionar el resultado generado.

En conjunto, el anuncio —calificado por Microsoft como 'solo el principio' de este recorrido— apunta a una tendencia relevante para el ecosistema de agentes de codificación: la combinación de orquestación híbrida nube/edge con control de modelo, y de aislamiento de procesos a nivel de sistema operativo para contener lo que un agente autónomo puede tocar en la máquina del desarrollador. El despliegue se anuncia para 'antes de que acabe el mes' (respecto a la fecha de publicación, el 7 de octubre de 2026), inicialmente ligado al hardware NVIDIA RTX Spark de dispositivos como el Surface Laptop Ultra.