Google amplía su octava generación de TPU con 8tx, para inferencia confidencial, y 8i Max, para contextos masivos

Google ha presentado dos nuevos sistemas dentro de su octava generación de TPU: la TPU 8tx y la TPU 8i Max. Según la compañía, es la primera vez que lanza cuatro sistemas TPU en un mismo año. El anuncio lo firma Amin Vahdat, vicepresidente sénior y tecnólogo jefe de IA e infraestructura. El texto está fechado el 9 de noviembre de 2026.

El contexto que ofrece Google es el siguiente. Los TPU se diseñaron hace más de una década para necesidades internas como el reconocimiento de voz y la traducción. Hoy cubren cuatro usos: entrenar y servir los modelos Gemini, cargas de trabajo basadas en agentes, servicios para clientes de Google Cloud y, más recientemente, el despliegue de TPU directamente en los centros de datos de los clientes. Google afirma que el negocio crece con rapidez y que ya cuenta con cerca de 100 clientes, entre ellos laboratorios de frontera, firmas de trading, minoristas y universidades.

En Google Cloud Next, en abril, la compañía presentó dos TPU especializadas de esta generación: la 8t, para entrenamiento a gran escala, y la 8i, para razonamiento en tiempo real. Según Google, ofrecen hasta 2,7 veces más rendimiento de entrenamiento y un 80 % más de rendimiento por precio en inferencia, respectivamente, frente a la generación anterior. Las cifras son de la propia empresa y el artículo no detalla cómo se midieron.

La 8t se plantea como una máquina de entrenamiento para grandes modelos fundacionales, con el máximo «goodput», que Google define como la inteligencia útil entregada por vatio. La 8i se describe como el motor de razonamiento, diseñado para superar el «muro de la memoria» y reducir hasta a la mitad los retrasos de comunicación entre chips.

Google explica que ahora recibe más comentarios de organizaciones externas, además de co-diseñar los TPU con Google DeepMind. Por un lado, las empresas piden aceleradores capaces de razonar sobre ventanas de contexto enormes, a medida que la computación pasa de escala humana a escala de agentes. Por otro, algunos clientes muy regulados piden capacidades de cifrado especializadas.

Un punto conceptual del anuncio es la distinción entre chip y sistema. Diseñar un chip supone un proceso de varios años, y un sistema consiste en combinar computación, red y almacenamiento alrededor del chip, incluido cómo se empaquetan. Google dice que apostó por la modularidad dentro de su AI Hypercomputer, de modo que se puedan ajustar el empaquetado, la memoria de alto ancho de banda, la red óptica y la seguridad. Con ello afirma poder entregar supercomputadores especializados en meses y no en años.

La TPU 8tx es el tercer sistema de la generación. Está optimizada para inferencia segura y confidencial, y también sirve para entrenamiento a pequeña escala. Se dirige a empresas reguladas y gobiernos que ejecutan modelos de frontera o propios, y agentes autónomos, junto a sus datos más sensibles. Google recuerda que los datos suelen cifrarse en reposo y en tránsito, pero deben descifrarse en memoria mientras se procesan. La 8tx se basa en el mismo silicio que la 8t y se combina con servidores host con CPU AMD EPYC de 5.ª generación. Según Google, incorpora la seguridad en la capa de hardware y mantiene protegidos y aislados los datos y los pesos del modelo incluso durante su uso.

La 8tx adopta además la red Boardfly de baja latencia creada para el razonamiento en tiempo real. Google asegura que ofrece hasta el doble de baja latencia que la 8t con una penalización de rendimiento casi nula. Al combinar computación de nivel de entrenamiento con una red rápida de inferencia, una organización puede ejecutar y personalizar sus modelos en un único sistema. Eso incluye el ajuste fino con datos privados, la destilación de modelos grandes en otros más pequeños y el entrenamiento de agentes mediante aprendizaje por refuerzo, sin mover datos sensibles entre clústeres distintos.

La TPU 8i Max es el cuarto sistema y responde al problema del muro de la memoria. Cuando decenas de agentes trabajan a la vez sobre una base de código completa o sobre horas de vídeo, el ancho de banda de memoria se convierte en el cuello de botella. Google combinó dos chips TPU 8i de baja latencia en un único paquete. El resultado, según la compañía, duplica el cómputo, la SRAM y el ancho de banda de HBM respecto a la 8i. Como encaja el doble de silicio en el mismo espacio de rack, los centros de datos pueden desplegar más capacidad de cómputo por metro cuadrado y por vatio.

Google resume la cartera así: 8t para entrenamiento a gran escala, 8i para razonamiento de baja latencia, 8tx para computación confidencial y 8i Max para contextos masivos y la mayor densidad de cómputo por rack. Aclara que los cuatro son flexibles entre cargas de trabajo.

La segunda parte del anuncio trata de la accesibilidad del software. Google sostiene que los TPU ya sirven para un abanico amplio de empresas y que lleva tiempo eliminando barreras de adopción. Las medidas que enumera son estas:

Primero, el mes pasado publicó como código abierto TorchTPU. Con él, el código PyTorch y los modelos de Hugging Face se ejecutan de forma nativa en TPU, sin reescrituras. Hay también backends para motores de inferencia abiertos como vLLM y SGLang. Además, un nuevo conjunto de agentes para TPU, abierto y en vista previa, se integra con herramientas de programación como Claude Code, Cursor y Google Antigravity. Según Google, automatiza la incorporación a TPU en minutos, diagnostica cuellos de botella y autoajusta kernels personalizados mediante lenguaje natural. Para producción, el nuevo XLA Serving Engine, también abierto, permite entrenar en Python y servir en un entorno de ejecución C++ de baja latencia sobre TPU, GPU y CPU.

Segundo, Google afirma que su pila vLLM-TorchTPU nativa logró marcas de precio-rendimiento de vanguardia en los benchmarks InferenceX y AgentX, que miden programación agéntica y trabajo de contexto largo. Añade que nuevas evaluaciones muestran ventajas similares en varios modelos abiertos de frontera sin perder precisión, y que habrá más optimizaciones de software. Son resultados que Google presenta sin cifras concretas en el texto.

Tercero, el software Agent Compute Engine suspende y reanuda automáticamente las sesiones inactivas de los agentes, que a menudo se detienen segundos u horas esperando una base de datos, una herramienta externa o la respuesta de una persona. Google dice que así reduce los costes de infraestructura.

Cuarto, Google publica como código abierto TPU Sync, la capa de estado del modelo para clústeres TPU. Une la HBM del chip, la DRAM del host, el almacenamiento compartido y la red del centro de datos en una única jerarquía de memoria. Reparte automáticamente en niveles las enormes cachés KV fuera del chip en milisegundos, transmite contexto entre nodos de prefill y decode desagregados y sincroniza pesos de aprendizaje por refuerzo. Según Google, reduce la latencia de transferencia de KV y el tiempo hasta el primer token en más de un 90 %.

Quinto, Cloud Pathways ya está disponible de forma general en Google Kubernetes Engine (GKE). Lleva a todos los clientes de Google Cloud el entorno de ejecución de Google DeepMind que hay detrás de Gemini. Con una arquitectura de controlador único, permite orquestar sistemas TPU grandes repartidos en varias porciones como si fueran una sola máquina local, para preentrenamiento, aprendizaje por refuerzo e inferencia multihost. Google añade que mantiene en marcha los trabajos largos ante fallos de hardware, con intercambio en caliente de porciones en menos de un minuto y reparticionado elástico.

Sexto, el dynamic slicing de GKE también está disponible de forma general. Separa el aprovisionamiento físico del hardware de la formación lógica de porciones mediante conmutación óptica de circuitos (OCS). Permite ensamblar cubos TPU en topologías mayores o dividirlos en cargas aisladas más pequeñas al vuelo. Google afirma que reduce hasta 5 veces los tiempos de arranque de los trabajos y acelera hasta 4,5 veces la recuperación ante fallos.

Para cerrar, Google subraya que lanzar cuatro sistemas y una pila de software abierta en un año exige un trabajo conjunto de arquitectos de silicio, ingenieros de red, equipos de compiladores e investigadores de DeepMind. Dice que además recurre a la IA para diseñar la siguiente generación de infraestructura, con el sistema de aprendizaje por refuerzo AlphaChip de DeepMind y con Gemini para obtener diseños de chips en horas en lugar de semanas. Lo presenta como una ventaja diferencial propia.

Como lectura editorial, el anuncio es una publicación de la propia empresa y casi todas las cifras de rendimiento son comparaciones internas sin metodología detallada ni cifras absolutas. Aun así, muestra una estrategia clara: hacer los aceleradores modulares y especializados por etapa del ciclo de vida de la IA, y reducir la fricción de adopción con software abierto y compatibilidad con PyTorch. El texto no ofrece precios, fechas de disponibilidad de la 8tx y la 8i Max ni detalles técnicos de los mecanismos de cifrado.