El cuello de botella de la IA agéntica ya no es la GPU: es el disco duro que le da de comer

Por SiliconANGLE (theCUBE) · 8 de julio de 2026.

En el RAISE Summit 2026, Greg Matson, vicepresidente de marketing y producto de Solidigm —la marca de SK Hynix para NAND empresarial—, dio una entrevista a theCUBE con una tesis sencilla: el almacenamiento ha dejado de ser plomería barata para convertirse en lo que él llama la 'capa de inteligencia'. Según Matson, hace un par de años el foco estaba en el entrenamiento, que exigía almacenamiento de alta capacidad pegado a la GPU. Ahora, con la inferencia agéntica, la presión se ha disparado: la nueva capa de almacenamiento actúa como una extensión de la memoria del sistema, guardando y sirviendo el contexto que un agente acumula mientras razona en varios pasos.

Los números que ofrece son ilustrativos, aunque conviene tomarlos como los presenta la fuente —un ejecutivo de la propia Solidigm, en una cobertura que SiliconANGLE reconoce expresamente como patrocinada por el evento—: un prompt de apenas 15 palabras puede generar hasta 40.000 tokens de salida, es decir, entre 5 y 10 gigabytes de datos de contexto. Multiplicado por miles de empleados usando agentes a la vez, la necesidad de almacenamiento escala a los petabytes. La respuesta comercial de Solidigm son discos SSD de hasta 122 terabytes por unidad y el que dicen es el primer SSD empresarial refrigerado por placa fría, pensado para servidores de GPU Nvidia sin ventiladores, en un momento en que los racks de IA están abandonando la refrigeración por aire a favor de la líquida.

Conviene separar el hecho del envoltorio. Que un directivo de un fabricante de memoria y almacenamiento diga que el almacenamiento es la pieza más estratégica del stack de IA es, por definición, un interés comercial declarado; no es una fuente independiente. Pero el fenómeno de fondo que describe sí está bien documentado en el sector por otras vías: los modelos con ventanas de contexto cada vez más largas (la propia SiliconANGLE reporta en la misma tanda de noticias un modelo de 10 millones de tokens) y los flujos agénticos que encadenan docenas o cientos de llamadas por tarea generan un volumen de datos intermedios —cachés de contexto, estados de sesión, historiales de herramientas— que ya no cabe cómodamente en la memoria de la GPU y necesita un nivel intermedio rápido entre el chip y el almacenamiento tradicional.

Nuestra lectura es que esta noticia, aunque nace de un pitch de producto, apunta a algo que ya intuíamos: el coste real de la IA agéntica no lo generan las personas escribiendo prompts, sino los agentes orquestando miles de llamadas automáticas por tarea, y ese tráfico interno de datos —no solo el cómputo— es el que está reescribiendo el mapa de inversión en infraestructura. Durante la fase de entrenamiento, el dinero y el relato se concentraron en la GPU y el HBM; en la fase de inferencia agéntica, una porción creciente del gasto se desplaza hacia capas que antes eran invisibles: almacenamiento de alta capacidad, refrigeración líquida, redes internas. Es la misma lógica que ya vimos con la disputa Google-Microsoft por la 'fontanería' de los agentes: quien controla la capa aburrida pero imprescindible del sistema también captura valor, aunque no aparezca en los titulares sobre el último modelo.

A corto plazo, esto se traduce en un ciclo de capex que no da tregua: los hiperescaladores llevan entre 12 y 18 meses sustituyendo infraestructura de almacenamiento de más de una década de antigüedad, y ese reemplazo se acelera justo cuando el despliegue de IA soberana por parte de gobiernos regionales añade otra capa de demanda simultánea. Es un negocio real para fabricantes de memoria como SK Hynix, pero también un riesgo de sobreconstrucción si la adopción de agentes empresariales no crece al ritmo que se está financiando; ya hemos visto ese patrón antes con la capacidad de GPU.

A largo plazo, sin embargo, esta clase de infraestructura —por muy poco vistosa que sea— es precisamente la que abarata el coste por token y hace viable que la inferencia agéntica deje de ser un lujo de laboratorio y se convierta en una utilidad accesible. Cada mejora en cómo se sirve el contexto sin saturar la GPU es, en última instancia, una mejora en cuánta inteligencia se puede repartir por dólar gastado, y eso es exactamente el tipo de eficiencia que sostiene la tesis de la abundancia: no la promesa de un modelo más listo, sino la certeza de que correr modelos ya capaces sale cada vez más barato para cada vez más gente.