TabFM: el modelo fundacional de Google para datos tabulares

Por TheSequence.

El correo arranca con una broma habitual en el mundo del machine learning: que el modelo más valioso del campo no es un transformer, sino un conjunto de árboles de gradient boosting (tipo XGBoost) entrenado sobre un CSV. Según el autor, a pesar de todo el ruido mediático en torno a los modelos frontera, los verdaderos caballos de batalla del ML empresarial siguen siendo pipelines de XGBoost prediciendo churn, fraude y riesgo crediticio sobre filas y columnas. El flujo de trabajo alrededor de estos modelos apenas ha cambiado en una década: cargar la tabla, diseñar variables (feature engineering), validar de forma cruzada, ajustar hiperparámetros y repetir el ritual con cada nuevo dataset.

El artículo señala que Google Research acaba de apuntar directamente a ese ritual con TabFM, un modelo publicado hace pocos días. Se describe como un modelo fundacional para clasificación y regresión tabular capaz de generar predicciones sobre tablas que nunca ha visto antes, en un único forward pass, sin necesidad de entrenamiento, ajuste de hiperparámetros ni feature engineering. El funcionamiento consiste en pasarle todo el problema de una vez —filas de entrenamiento, filas de test, todo— como un único prompt gigante, y el modelo responde. Se trata, según el texto, de aprendizaje en contexto (in-context learning) pero aplicado a hojas de cálculo.

El correo apunta que este enfoque no es una novedad aislada del equipo: TabFM seguiría el mismo 'playbook' que TimesFM, el modelo fundacional de series temporales del mismo equipo de Google, que se habría convertido silenciosamente en uno de los artefactos de investigación más desplegados que la compañía ha publicado. El autor sugiere que para entender bien TabFM hace falta entender primero esa herencia con TimesFM, y el correo queda cortado justo cuando empieza a desarrollar ese antecedente ('The TimesFM prelude...'), por lo que no se dispone de más detalle técnico sobre la arquitectura, los benchmarks o los resultados concretos de TabFM en el cuerpo recibido.

Antes del contenido técnico, el propio boletín incluye una nota del autor explicando que TheSequence lleva más de dos años funcionando sin patrocinadores, pese a recibir constantes propuestas de patrocinio, como forma de mantener su independencia técnica y objetividad, e invita a los lectores a suscribirse (gratis o de pago) como vía de apoyo.