Гонка вычислений добралась до математики
В математике и AI сейчас происходит невероятный поворот. Правда, до сингулярности осталось ещё несколько куда менее доступных задач тысячелетия.
Около года два математика, Tristan Buckmaster, профессор математики в NYU, и Levent Alpöge, математик из Anthropic, работали над задачами вокруг уравнений Эйлера и Навье-Стокса (дальше НС). Это не было работой Anthropic, они занимались этим в свободное время, без каких-либо институциональных договорённостей. По словам Buckmaster, большую часть года прогресс шёл медленно, а сам результат появился 15 августа.
Они развивали направление Diego Córdoba и Luis Martínez-Zoroa и получили очень сильный результат: разрушение за конечное время для трёхмерных уравнений Эйлера с гладкой внешней силой (finite-time blowup for forced 3D Euler). В процессе они сами активно использовали AI, включая Claude и Codex, а доказательства формализовали в системе Lean. Terence Tao назвал их результат выдающимся достижением.
В X появляется вирусный пост о том, что Anthropic якобы близок к решению двух задач тысячелетия. Слух был неверным: Buckmaster и Alpöge не решали две задачи тысячелетия, и это вообще не было работой Anthropic. Но OpenAI сразу взяли это на вооружение. И вот это уже не обвинение Buckmaster, а буквально написано самой OpenAI.
28 августа OpenAI начала обучать новую внутреннюю модель с очень сильными результатами по математике. 1 сентября они услышали слух про две якобы решённые задачи и решили запустить новую модель на все оставшиеся задачи тысячелетия.
Сначала около 100 агентов примерно 50 часов работали над более простой задачей и получили результат для уравнений Эйлера без внешней силы. После этого OpenAI решила, что НС выглядит наиболее перспективной целью, сняла агентов с остальных задач и направила ресурсы туда. Причём агентам дали полученное ими решение для Эйлера как входные данные для дальнейшей работы. И дальше масштаб становится просто грандиозным. Группа, которая в итоге получила результат по НС, включала порядка 10 000 одновременно работающих агентов.
На НС они отправили 2,7 миллиона сообщений и сгенерировали около 130 миллиардов токенов. Вся кампания по математическим задачам съела около 300 миллиардов токенов. По оценке TechCrunch, это соответствует примерно 22,5 миллиона долларов по текущим тарифам Astra.
Через 88 часов, 5 сентября, система получила решение. Ещё 17 часов ушло на формализацию и проверку в Lean.
Отдельно стоит проговорить, что именно доказано. В официальной постановке Чарльза Феффермана для Clay Institute четыре варианта. Варианты A и B требуют доказать, что жидкость без всякого внешнего воздействия всегда движется гладко. Варианты C и D разрешают приложить к жидкости гладкую внешнюю силу и требуют предъявить хотя бы один случай разрушения. OpenAI закрыла именно C и D, то есть версию с внешней силой. Формально это один из четырёх засчитываемых ответов. Но C не является отрицанием A, поэтому главный физический вопрос про жидкость без всякого внешнего воздействия остался ровно там, где был.
То есть компания услышала слух, что какие-то математики приблизились к очень большому результату, и буквально через несколько дней направила в эту область огромные вычислительные мощности.
По версии Buckmaster, когда Sébastien Bubeck, математик OpenAI, уже знал об их работе, у них состоялись разговоры. И Buckmaster описывает совершенно дикую ситуацию. По его словам, ему предложили два варианта.
Первый: они с Alpöge публикуют свой результат по Эйлеру, а OpenAI на следующий день публикует решение НС.
Второй: после публикации Buckmaster один, уже без Alpöge, пишет статью с результатом по НС и указывает, что доказательство получила внутренняя модель OpenAI.
Вот как Buckmaster описывает это в своём публичном заявлении:
«Sebastien twice asserted that he wanted Levent removed from authorship, and said it would all be simple if only it were not the case that... Levent works at Anthropic.»
Sebastien дважды заявил, что хочет убрать Levent из авторства, и сказал, что всё было бы просто, если бы Levent не работал в Anthropic.
Buckmaster отказался от обоих вариантов. По его словам, он предупредил, что публично расскажет о произошедшем, если OpenAI выпустит результат в предложенном виде.
Ответ, который он приводит:
«Why would you ruin your career?»
Зачем вам разрушать свою карьеру?
Это было сказано не аспиранту, которого можно напугать потерянной карьерой, а профессору математики NYU, который много лет занимается именно этой задачей.
«A series of false and inflammatory allegations against me are currently circulating on social channels. To clarify, I came into the discussion following academic norms, and I'm disappointed that it has come to this.»
Против меня в социальных сетях распространяется ряд ложных и провокационных обвинений. Поясню: я вступил в обсуждение, следуя академическим нормам, и мне жаль, что до этого дошло.
При этом на конкретные пункты он не ответил: вопрос про данные Codex, давление по авторству, фразу про карьеру и хронологию запуска работ. Но дальше возникает ещё один, на мой взгляд, гораздо более фундаментальный вопрос.
Buckmaster и Alpöge сами использовали Codex во время работы над этой неопубликованной математикой. По словам Buckmaster, они складывали туда черновики практически всего проекта. Поэтому Buckmaster прямо спросил OpenAI, была ли их внутренняя модель обучена на этих сессиях или имела к ним доступ.
OpenAI утверждает, что модель не смотрела пользовательские данные и что ни исследователи, ни агенты не видели работу Buckmaster и Alpöge до её публичной публикации. Но в официальном заявлении OpenAI есть вот такая формулировка:
«While unlikely, we cannot rule out that de-identified data derived from their usage of our products helped improve our models.»
Хотя это и маловероятно, мы не можем исключить, что деидентифицированные данные, полученные из использования ими наших продуктов, помогли улучшить наши модели.
Мы не знаем, украла ли OpenAI их математический результат. Buckmaster этого тоже не может доказать. OpenAI это отрицает. Более того, результаты математически не идентичны: Buckmaster и Alpöge получили Эйлера с внешней силой, OpenAI заявляет Эйлера без внешней силы и затем НС, причём утверждает, что доказательства существенно различаются.
Но лично для меня даже то, что мы знаем наверняка, выглядит крайне неэтично и очень тревожно с академической точки зрения. Люди долго работают над передовой математикой. Информация об их ещё неопубликованном результате доходит до крупнейшей AI-компании мира.
Компания после этого направляет на соседнюю задачу 10 000 агентов, сотни миллиардов токенов и десятки миллионов долларов вычислений, и через несколько дней получает результат.
Затем один из математиков утверждает, что человек из компании предлагает схему публикации, в которой его соавтор, работающий в конкурирующей AI-лаборатории, исчезает из следующей статьи.
После отказа, по его словам, звучит вопрос про разрушенную карьеру.
А потом компания сама признаёт, что не может полностью исключить влияние деидентифицированных данных от использования этими математиками её продуктов на улучшение модели.
С академической точки зрения для меня это выглядит совершенно неприемлемо. И мне кажется, здесь проблема гораздо больше, чем конкретно OpenAI. Потому что представьте, что вы исследователь в передовой лаборатории и используете AI для работы над ещё неопубликованной математикой, новым алгоритмом, лекарством или каким-нибудь материалом. Вы отдаёте модели свои гипотезы, неудачные попытки, промежуточные доказательства, догадки и черновики. А компания, которой принадлежит эта модель, обладает мощностями, превосходящими ваши ресурсы на несколько порядков.
Тогда возникает довольно неприятный вопрос: что из своей неопубликованной работы учёный вообще может безопасно отдавать модели?
Причём у истории есть ещё один довольно показательный эпилог. Dheeraj Nagaraj, который сейчас работает в Google DeepMind и был интерном у Bubeck в 2020 году, увидел обвинения Buckmaster и написал, что подобное поведение для него «100% believable», и что он рад, что «the mask is off publicly». Это, конечно, не доказательство конкретных обвинений Buckmaster. Он не был свидетелем этих разговоров.
Если доказательство OpenAI выдержит независимую проверку, AI только что закрыл один из четырёх вариантов задачи, которая оставалась открытой около девяноста лет.
То есть вместо красивой истории про то, как AI и люди вместе двигают математику вперёд, мы получили историю про гонку вычислительных мощностей, приоритет, авторство, закрытые модели и пользовательские данные. Продолжение этой истории наверняка последует.
Official Problem Description, C. Fefferman, Clay Mathematics Institute (PDF)
OpenAI fought dirty on career-making math problem, says NYU mathematician, TechCrunch
Sébastien Bubeck calls the claims false and inflammatory, OfficeChai
OpenAI researcher allegedly pressured mathematician to drop Anthropic co-author, The Decoder
OpenAI's historic math solution overshadowed by credit controversy, Axios
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.