Las soluciones matemáticas de OpenAI no cumplen aún los estándares que el propio campo le pidió seguir

OpenAI publicó esta semana cientos de supuestas soluciones a algunos de los problemas matemáticos más difíciles del mundo, presentándolas como un ejercicio responsable: la compañía aseguró haber consultado a un grupo asesor de matemáticos de primer nivel para evitar la controversia que generó la vez anterior en que uno de sus modelos resolvió un problema histórico del campo. Sin embargo, según TechCrunch, OpenAI no llegó a cumplir del todo esos estándares, especialmente en el punto que los matemáticos consideraban más importante: garantizar que haya comprensión humana real detrás de cada resultado.

El organismo en cuestión es el Advisory Group on Mathematics and Artificial Intelligence (AGMAI), alojado por el Institute for Advanced Study y formado por nueve investigadores destacados de instituciones de todo el mundo. A finales de septiembre, AGMAI publicó una serie de directrices dirigidas a los laboratorios de frontera que resuelven problemas matemáticos. Sobre esta nueva tanda de pruebas de OpenAI, el grupo se limitó a declarar que corresponde a la propia comunidad matemática evaluar hasta qué punto se siguieron sus recomendaciones, y no respondió a TechCrunch cuando se le pidió una valoración más detallada.

Una de esas recomendaciones, de hecho la primera de la lista, pedía explícitamente "dejar de probar problemas matemáticos avanzados en modelos propietarios". OpenAI ignoró ese punto de partida: su propio comunicado reconoce que está evaluando sus modelos propietarios precisamente mediante problemas de investigación abiertos, es decir, haciendo lo contrario de lo solicitado.

En otros aspectos, la compañía sí siguió parte de las directrices, como publicar los resultados cuanto antes e incluir información sobre cómo llegaron los modelos a sus conclusiones. Pero el cumplimiento fue parcial y desigual: de los 719 manuscritos publicados, solo 10 incluyeron el razonamiento (el "chain of thought") del modelo. Y para las pruebas que la comunidad no logra entender por sí sola, AGMAI había sugerido formalizarlas; aun así, según la fuente, un 42% de las pruebas publicadas por OpenAI no habían pasado por ese proceso de formalización.

El trasfondo de todo esto es una pregunta incómoda: ¿quién se hace cargo de que estos resultados lleguen a entenderse? Según las propias directrices de AGMAI, el laboratorio que publica una prueba debe asumir la responsabilidad de que a esa publicación le siga comprensión humana; el grupo asesor sugirió además que OpenAI debería ayudar a financiar el trabajo de los matemáticos humanos que tendrán que digerir y dar sentido a esas soluciones. No está claro que OpenAI esté cumpliendo con esa parte.

Terence Tao, uno de los matemáticos que ya había criticado antes el enfoque de OpenAI, lo resumió sin rodeos en redes sociales tras la publicación: los problemas están siendo resueltos de forma autónoma por "prompters" de IA que no tienen interés real en el campo más allá de marcar su objetivo inicial como "resuelto", y que no entienden lo bastante bien el resultado generado por el modelo como para responder preguntas sobre él, dar charlas o interactuar con el resto de la comunidad.

Ese problema de fondo queda ilustrado por un estudio publicado esta misma semana por matemáticos de la Universidad de Cambridge y del King's College de Londres, que pone en duda el procedimiento que los laboratorios de frontera están usando para abordar estos retos. Cuando un modelo de IA resuelve un problema matemático, primero redacta una explicación en "lenguaje natural" y después intenta traducir ese razonamiento a Lean, un lenguaje de programación que en teoría certifica la validez de la prueba al compilarla como código. El estudio documenta al menos dos discrepancias entre la explicación en lenguaje natural y el código en Lean que sustenta una solución ofrecida por OpenAI a un problema derivado de las ecuaciones de Navier-Stokes, que describen el comportamiento complejo de los fluidos.

Esas discrepancias no invalidan necesariamente ninguna de las dos versiones de la prueba, pero sí abren una duda legítima: ¿puede confiarse en que los propios modelos formalicen correctamente sus soluciones sin supervisión humana? Precisamente por eso, AGMAI había pedido a OpenAI que incluyera metadatos legibles por máquina que correlacionaran el texto en lenguaje natural con los artefactos formales, algo que la compañía no hizo en esta publicación. Los autores del estudio, apodado informalmente "lost in translation", concluyen que, debido al fenómeno de las traducciones erróneas que ellos mismos documentan, ni la prueba en lenguaje natural de OpenAI ni otras pruebas autoformalizadas en Lean deberían darse por buenas sin someterlas al mismo proceso de revisión por pares y escrutinio que recibe cualquier otra prueba matemática.

Los matemáticos insisten en que, cuando un resultado nuevo lo descubre un ser humano, este se responsabiliza de él y lo defiende ante la comunidad mediante artículos, charlas y seminarios, un proceso que amplía la comprensión colectiva del resultado, permite encontrar estrategias aplicables a otros problemas y facilita que ese conocimiento se traduzca en usos prácticos. Melanie Wood, profesora de matemáticas en Harvard, lo plantea de forma tajante: cuando se le pide a un modelo que resuelva un problema difícil y este entrega una solución, en ese momento de publicación no existe comprensión humana de los resultados, y es ahí, precisamente, donde empieza el trabajo real.

En conjunto, el episodio deja una imagen de un sector de la IA que avanza más rápido en la producción de resultados que en construir los mecanismos de verificación, traducción y apropiación humana que esos mismos resultados exigen para ser útiles. La propia existencia de un grupo asesor como AGMAI, y el hecho de que sus recomendaciones solo se hayan seguido parcialmente poco después de publicarse, sugiere que la tensión entre la velocidad de estos lanzamientos y el ritmo, mucho más lento, al que la comunidad matemática puede digerirlos y validarlos seguirá siendo motivo de fricción.