LeHami: física hamiltoniana para que los modelos de mundo JEPA predigan movimiento a largo plazo

Por Turing Post · Sat, 24 Oct 2026 15:05:01 +0000.

El correo presenta LeHami, una variante de la arquitectura JEPA (Joint Embedding Predictive Architecture) de Yann LeCun inspirada en la mecánica hamiltoniana. Según el resumen inicial (TL;DR), LeHami es un modelo de mundo tipo JEPA que usa mecánica hamiltoniana para evitar ciertos tipos de colapso durante las predicciones latentes a largo plazo. Representa los estados con variables análogas a posición y momento, aprende una función similar a una energía y las actualiza mediante un integrador simpléctico de tipo leapfrog. Los experimentos con péndulos simulados muestran mejoras prometedoras en precisión de predicción y eficiencia de cómputo, aunque los resultados en planificación son mixtos y el enfoque aún no se ha demostrado en dinámicas complejas del mundo real.

El artículo recuerda que la arquitectura JEPA destaca por predecir representaciones abstractas de lo que falta o de lo que viene a continuación, en lugar de generar imágenes píxel a píxel. LeHami lo desarrollan Yann LeCun, Romina Yalovetzky y Randall Balestriero. El prefijo 'Le' procede de LeJEPA, otra versión de JEPA, y 'Hami' indica que se basa en la física de Hamilton. La idea es evitar que las predicciones largas pierdan gradualmente la distinción entre estados diferentes, por lo que LeHami cambia la forma de predecir incorporando directamente en el proceso una restricción geométrica tomada de la mecánica hamiltoniana.

El correo plantea el índice del análisis completo: por qué JEPA necesita mejores predicciones a largo plazo, por qué la mecánica hamiltoniana, qué aporta a LeHami, cómo funciona paso a paso, qué mostraron los experimentos, cuáles son sus limitaciones y por qué importa para los modelos de mundo JEPA. En este correo solo se desarrollan las primeras secciones; el resto queda para la guía completa de pago.

Sobre el problema de fondo, el artículo explica que en un despliegue (rollout) largo cada representación predicha se convierte en la entrada de la siguiente predicción. Si el predictor comprime ligeramente el rango de estados posibles en cada paso, esa compresión se acumula: estados iniciales claramente distintos acaban representados de forma cada vez más parecida. Aunque el codificador haya aprendido buenas representaciones durante el entrenamiento, el predictor corre el riesgo de colapsar con el tiempo. Con LeHami, los investigadores buscan repensar cómo evolucionan esas representaciones, tomando prestada estructura de la mecánica hamiltoniana, un marco para describir el movimiento desarrollado hace casi 200 años.

En cuanto a la física, William Rowan Hamilton presentó su visión de la mecánica en dos trabajos principales publicados en 1834 y 1835, extendiendo métodos matemáticos que había usado en óptica. El objetivo era un modo más general y sistemático de calcular el movimiento, incluidos sistemas complejos como planetas que interactúan. No era un nuevo conjunto de leyes físicas, sino una reformulación de la mecánica existente. La mecánica lagrangiana clásica describe el sistema mediante coordenadas y velocidades; en sistemas mecánicos habituales, el lagrangiano es la energía cinética menos la potencial. La mecánica hamiltoniana cambia las velocidades por momentos: las coordenadas q y los momentos p describen juntos un punto en el espacio de fases, y su función central, el hamiltoniano H, suele ser la energía total (cinética más potencial). Los gradientes de H determinan cómo cambian q y p con el tiempo. El correo ilustra esto con un péndulo. La ventaja es la simplicidad de las ecuaciones: en lugar de ecuaciones de segundo orden para las coordenadas, se obtienen pares de ecuaciones de primer orden para coordenadas y momentos, y la geometría de la evolución queda más explícita.

Por qué importa a LeHami: un JEPA estándar no requiere mecánica hamiltoniana, pero los autores querían un predictor que no comprimiera gradualmente una región de estados latentes en un volumen menor a medida que las predicciones se retroalimentan. La formulación hamiltoniana permite integrar esa restricción en la actualización: su dinámica es simpléctica y preserva la geometría y el volumen del espacio de fases; sus ecuaciones de primer orden actualizan directamente el estado emparejado q y p; y separar el hamiltoniano aprendido en K(p) y V(q, u) permite un paso leapfrog explícito, sin solver iterativo, que conserva la estructura simpléctica. Por eso eligen Hamilton y no Lagrange: ofrece una vía computacionalmente simple hacia la garantía exacta que necesitan. LeHami aprende K y V en el espacio latente en lugar de calcular energías físicas reales.

El correo cierra con una promoción de la guía completa para suscriptores Premium (20% de descuento hasta el 25 de octubre), un enlace a un vídeo sobre la evolución de JEPA y una referencia al episodio previo sobre cómo funcionan los modelos de mundo, de Dreamer y JEPA a Waymo y Atlas. Los detalles de los experimentos y las limitaciones más allá del TL;DR no se incluyen en este correo.