El último hito matemático de OpenAI se ha sumido rápidamente en la controversia. Hoy, la compañía ha anunciado que sus agentes han resuelto uno de los Problemas del Milenio, algunos de los problemas abiertos más importantes de las matemáticas. En circunstancias normales, esa solución sería un gran tanto a favor de OpenAI.
Pero el anuncio se ha visto ensombrecido por las acusaciones de que OpenAI utilizó el trabajo asistido por IA sobre el problema del matemático de la NYU Tristan Buckmaster y del empleado de Anthropic Levent Alpöge como punto de partida y no les dio crédito. OpenAI ha negado las acusaciones.
Sigue siendo incierto si los modelos de OpenAI utilizaron el trabajo completado por Buckmaster y Alpöge, aunque Sébastien Bubeck, miembro del personal técnico de OpenAI, afirmó en una rueda de prensa que el equipo se inspiró para abordar el problema tras escuchar un rumor sobre los esfuerzos de Buckmaster y Alpöge. Pero, independientemente de si los modelos de OpenAI se aprovecharon de la investigación de Buckmaster y Alpöge, este episodio podría marcar un punto de inflexión en la historia de las matemáticas.
Los modelos de IA ahora parecen esenciales para avanzar en los problemas matemáticos más importantes de nuestro tiempo, y resolverlos puede exigir recursos solo disponibles en un par de empresas de IA punteras, que a menudo desafían las normas de colaboración académica que sustentan la mayor parte del progreso matemático. Si ese es el futuro al que nos dirigimos, no está claro cómo encajarán en él los matemáticos humanos.
El problema que OpenAI afirma haber resuelto se conoce como el problema de existencia y regularidad de Navier-Stokes. Es uno de los siete Problemas del Premio del Milenio seleccionados por el Clay Mathematics Institute en el año 2000. Las soluciones conllevan un premio de un millón de dólares; antes de hoy, solo otro Problema del Premio del Milenio había sido resuelto.
El problema de Navier-Stokes se refiere a un conjunto de ecuaciones que describe cómo los fluidos, como el agua y el aire, fluyen a lo largo del tiempo. Las ecuaciones son ampliamente utilizadas en el campo de la dinámica de fluidos, y han demostrado ser potentes, pero los físicos y matemáticos no las entendían por completo. En particular, hasta hoy se desconocía si las ecuaciones podrían, bajo ciertas condiciones, fallar y predecir un estado de cosas imposible —como que un fluido tuviera una velocidad infinita.
El lunes, Buckmaster, de la NYU, publicó una demostración en la red social Mastodon mostrando que una versión simplificada de las ecuaciones de Navier-Stokes sí puede colapsar —un gran avance en el Problema del Milenio. Él y Alpöge habían trabajado en el problema durante casi un año, utilizando modelos disponibles públicamente tanto de OpenAI como de Anthropic.
Y hoy mismo, OpenAI ha presentado una prueba que demuestra que las ecuaciones completas de Navier–Stokes también pueden colapsar. La prueba se obtuvo utilizando un modelo interno que supera drásticamente al ya impresionante modelo Astra, que se lanzó apenas la semana pasada. La empresa afirma que no planea reclamar el premio de un millón de dólares por resolver el problema.
Estos logros matemáticos son indiscutiblemente impresionantes, pero han atraído mucha menos atención que la controversia sobre sus orígenes. Junto con la prueba, Buckmaster publicó un documento que detallaba sus interacciones con empleados de OpenAI después de escuchar rumores sobre su trabajo y contactar con uno de ellos. Según él, los empleados de OpenAI le presentaron dos posibilidades: O él y Alpöge podían publicar su trabajo y OpenAI publicaría su solución de Navier-Stokes al día siguiente, o podía trabajar con OpenAI en un artículo sobre Navier-Stokes que excluyera a Alpöge de la autoría, debido a su afiliación con Anthropic, el mayor rival de OpenAI.
Buckmaster también escribió que preguntó a los empleados si los agentes habían obtenido acceso a las transcripciones del trabajo que él y Alpöge habían realizado con modelos de OpenAI, lo cual negaron; y si los modelos de OpenAI habían sido entrenados con esas transcripciones, a lo que no ofrecieron respuesta. MIT Technology Review se puso en contacto con Buckmaster para recabar comentarios, pero no obtuvo respuesta antes de la publicación.
La clara implicación del documento es que los modelos de OpenAI de alguna manera hicieron uso del trabajo de Buckmaster y Alpöge. Ese escenario es plausible a primera vista. Las demostraciones de Buckmaster/Alpöge y OpenAI ambas hacen uso de un enfoque para el problema de Navier-Stokes propuesto por los matemáticos Diego Córdoba y Luis Martínez-Zoroa.
Según Javier Gómez-Serrano, profesor de matemáticas en la Universidad de Brown, este enfoque era uno de varios que se creía prometedor para resolver el problema de Navier-Stokes. Así pues, si bien no es en absoluto imposible que ambos equipos hayan llegado a este enfoque de forma independiente, también es concebible que el trabajo de Buckmaster y Alpöge haya influido en el de OpenAI.
En la rueda de prensa, Mark Chen, director de investigación de OpenAI, volvió a negar que ningún agente o empleado de OpenAI hubiera accedido a las transcripciones de Buckmaster y Alpöge—pero, dado lo que se ha revelado sobre el hackeo de Hugging Face, está claro que OpenAI no siempre está plenamente al tanto de lo que hacen sus agentes.
Si los modelos de OpenAI se entrenaron con el trabajo de Buckmaster y Alpöge, o si sus agentes de alguna manera obtuvieron acceso a él, entonces el fracaso de la compañía en averiguar la verdad y asignar el crédito apropiado a esos investigadores la desprestigia. Pero podría haber un pequeño consuelo en esa versión de la historia para los matemáticos, porque sugeriría que el arduo trabajo de dos humanos, uno de los cuales es un experto eminente en Navier-Stokes, fue esencial para la capacidad de los agentes de resolver el Problema del Milenio.
Desde hace tiempo, los expertos han identificado el "olfato investigador" —o la capacidad de elegir preguntas y direcciones de investigación prometedoras— como un obstáculo importante para la IA en ciencia y matemáticas. Si los agentes de OpenAI realmente eligieron seguir el enfoque de Córdoba-Martínez-Zoroa porque Buckmaster y Alpöge habían hecho lo mismo, entonces el olfato investigador humano desempeñó un papel esencial en el éxito de OpenAI.
Aun así, el panorama general es aleccionador. El progreso que Buckmaster y Alpöge lograron durante casi un año de colaboración con modelos disponibles públicamente demuestra el potencial de la colaboración entre humanos e IA. Pero no pudieron alcanzar una solución completa. Mientras tanto, OpenAI encontró una solución por fuerza bruta en pocos días utilizando un modelo interno, y su solución exitosa tuvo un coste astronómico: en la rueda de prensa, Bubeck y Chen afirmaron que el equipo solo pudo resolver el problema ejecutando unos 10.000 agentes de forma concurrente, con un coste de millones de dólares.
En los últimos meses, varios investigadores me han comentado que los matemáticos se están deprimiendo, y no es difícil entender por qué. Las matemáticas se están convirtiendo rápidamente en el dominio de empresas de IA punteras, con impresionantes modelos de uso exclusivamente interno, dinero a espuertas y una falta de espíritu colaborativo. «Si las empresas de IA decidirán gastar su dinero en una cosa o en otra, realmente no lo sé», dice Gómez-Serrano. «Lo que está claro es que muy pocos matemáticos tendrán recursos de esa escala».
Si OpenAI y Anthropic siguen esforzándose por obtener galardones matemáticos cada vez más impresionantes, puede que no queden problemas abiertos con los que los matemáticos humanos, fuera de esas empresas, puedan lidiar. Esto cambiaría drásticamente el campo de las matemáticas.
La semana pasada, el matemático de la UCLA Terence Tao escribió un hilo de Mastodon describiendo la importancia de los errores, las direcciones erróneas y las soluciones incompletas para el campo. “En la mayoría de los casos en las matemáticas puras, los problemas no se plantean porque deseemos desesperadamente la solución a estos problemas por sí mismos, sino porque la experiencia nos ha demostrado que los esfuerzos dirigidos por humanos para resolver estos problemas tienden a impulsar un mayor desarrollo del campo”, escribió Tao.
“Resolver el problema prematuramente mediante métodos puramente impulsados por IA —particularmente sin una transparencia total en el proceso de solución— puede contaminar este proceso hasta el punto de que en realidad se convierta en un perjuicio neto para el progreso de las matemáticas en su conjunto.”
Los humanos podrían tardar más que los agentes en resolver problemas matemáticos, pero en el proceso descubren nuevos enfoques e ideas matemáticas que podrían inspirar a sus compañeros e incluso dar origen a sus propios subcampos.
Pero cuando son los agentes de IA quienes resuelven esos problemas —y cuando las empresas privadas ocultan los errores de los agentes al escrutinio público—, esos beneficios desaparecen. Queda por ver qué más se desvanecerá en el proceso.