"Una amenaza general al trabajo intelectual": las mentes matemáticas más brillantes, contra el modus operandi de la IA
Esta semana la ciencia se ha llevado una de cal y una de arena: a falta de la confirmación de la comunidad matemática, parece que por fin hemos averiguado la solución a uno de los siete Problemas del Milenio planteados por el Clay Mathematics Institute. Pero ese "hemos" es más una expresión que la realidad: no ha sido la humanidad, sino la IA de OpenAI. Y con letra pequeña: detrás hay un auténtico culebrón, meses de trabajo humano y miles de agentes.
Escasos días después, una carta firmada por 25 de las mentes más brillantes en matemáticas del mundo y que tienen una medalla Fields en su haber (algo así como el Nobel de las matemáticas) han escrito una carta abierta no tanto contra la IA, sino contra esa carrera entre laboratorios de inteligencia artificial por llegar primeros a toda costa y sus modus operandi.
El problema de la discordia. El matemático Tristan Buckmaster de la Universidad de Nueva York junto al investigador de Anthropic Levent Alpöge llevaban meses trabajando y obteniendo avances para resolver el problema de existencia y suavidad de Navier-Stokes. Entonces descubrieron que OpenAI había puesto su maquinaria para, partiendo de sus avances, resolver el problema.
Vaya por delante algo: como es habitual en ciencia, ellos tampoco partieron de cero: su investigación continuaba a partir de los matemáticos Diego Córdoba y Luis Martínez-Zoroa. OpenAI terminó publicando la prueba, la que hemos conocido esta semana.
Confusiones, presiones y el "puede" por respuesta. Buckmaster pidió explicaciones a OpenAI y se encontró con respuestas cada vez menos claras, frases espinosas como "¿por qué arruinarías tu carrera?" y que uno de sus matemáticos, Sébastien Bubeck, le sugirió retirar de la ecuación a Alpöge por su vínculo con Anthropic.
OpenAI confirmó parte de esta historia: dice que empezó a trabajar en el problema el 1 de septiembre, tras oír rumores de que ya se había resuelto, y que empleó un modelo aún no publicado, más concretamente 10.000 agentes coordinados trabajando 88 horas y gastando 300.000 millones de tokens de salida, el equivalente a 22,5 millones de dólares en cómputo. La empresa niega haber visto el trabajo de Buckmaster antes de que se publicara, pero admite que no puede descartar del todo que algo de esa información haya llegado a sus modelos a través del uso de Buckmaster de la herramienta Codex.
Qué dice la carta. Las 25 personas que firman la carta, titulada "Una grave desalineación de la IA en las matemáticas" no dicen que la IA sea mala en sí misma: su queja es que las empresas publican resultados con demasiada prisa, sin dar tiempo a revisarlos ni a dar crédito a quien hizo el trabajo previo, lo que abre las puertas a plagios y malas atribuciones. Y dejan una advertencia clara: sin profesionales de las matemáticas que se tomen el tiempo de entender y explicar las ideas, esos resultados de la IA nunca llegarán a ser útiles para el resto.
Esto no es un problema solo para las matemáticas. La carta deja además un aviso a navegantes: "Estamos presenciando una amenaza general para el trabajo intelectual, con un desalineamiento entre el resultado del uso de la IA y su propósito inicial." En pocas palabras, ha pasado ahora con las matemáticas, pero si todo sigue igual, otras profesiones creativas y científicas vivirán lo mismo. Por eso piden tanto a las empresas como a la comunidad que actúen ya.
Y es que más que una cuestión académica, este es un problema de mala praxis. Está claro que el poderío de cálculo de un laboratorio de IA es masivo frente a un cerebro humano, pero las formas son otra historia. Ojo, porque no es la primera vez que las voces más autorizadas de las matemáticas se quejan: ya en junio de este año la Declaración de Leiden proponía recomendaciones para instituciones y responsables de políticas ante el impacto de las demostraciones generadas por grandes modelos de lenguaje.
Qué puede pasar después. El problema de fondo es que si lo único que importa es ganar la carrera, quienes se dedican a las matemáticas pueden cambiar su proceder y dejar de compartir sus avances para esconderlos y evitar así que una empresa con mucho dinero y mucha capacidad de cálculo les "robe" sus resultados y luego se ponga a toda máquina a a resolverlos. Eso marcaría un antes y un después en la forma de proceder de la ciencia: la humanidad siempre ha avanzado compartiendo ideas para que otras personas las revisen y mejoren.
Esperemos que esto lleve a cambios más concretos y tangibles en forma de reglas más claras sobre cómo las empresas de IA pueden (o no) usar las conversaciones de estas investigaciones para entrenar a sus modelos, dar ese tiempo necesario para la revisión antes de anunciar a bombo y platillo los avances y tener claro que esto no es un tema exclusivo de las matemáticas: en otras disciplinas la IA también puede adelantarse a las personas.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.