Математик обвинил OpenAI в нечестной игре при решении «задачи тысячелетия»

Профессор математики Нью-Йоркского университета Тристан Бакмастер во вторник объявил о трех доказательствах, включая предварительный результат по одной из главных нерешенных проблем теоретической математики. Работа, выполненная в соавторстве с математиком Anthropic Левентом Альпёге и с использованием моделей ИИ Codex и Claude, значима сама по себе, но ее сопровождает необычный скандал, связанный с попытками OpenAI решить ту же задачу.

«В этой истории есть и другая сторона, — написал Бакмастер в своем заявлении, — и, честно говоря, мне очень жаль, что мне приходится об этом беспокоиться». Согласно заявлению, параллельные усилия OpenAI, основанные на их работе до того, как она стала публичной, привели к запутанному клубку академического соперничества и противоречивых заявлений.

Вскоре после заявления Бакмастера OpenAI опубликовала полное доказательство проблемы существования и гладкости решений уравнений Навье-Стокса, к которому и приближались результаты Бакмастера. По словам OpenAI, доказательство было найдено невыпущенной моделью следующего поколения, которая за прошедшую неделю решила ряд различных нерешенных задач. На эти усилия ушло 300 миллиардов выходных токенов, что эквивалентно 22,5 миллиона долларов (~1,8 млрд рублей) вычислительных мощностей по текущим тарифам Astra.

Проблема существования и гладкости решений уравнений Навье-Стокса — одна из семи «Задач тысячелетия» — набора главных нерешенных математических задач, за каждую из которых Математический институт Клэя предлагает вознаграждение в 1 миллион долларов (~80 млн рублей). Уравнения Навье-Стокса широко используются в механике жидкостей, но их теоретическое понимание оставляет желать лучшего. Решение ознаменовало бы значительный прогресс в коллективном понимании математической физики.

Пока Бакмастер и Альпёге дорабатывали свои результаты, они узнали, что «информация о нашем прогрессе была передана в OpenAI». Когда они связались с OpenAI, им сообщили, что там уже получили полное доказательство центральной проблемы. Но когда они задали уточняющие вопросы о том, когда OpenAI начала свои исследования и насколько велико было участие человека, ответы стали более уклончивыми.

«Выяснилось, что над проблемой работала целая команда, — рассказал Бакмастер, — и было задействовано невероятное количество вычислений… В конце концов, было признано, что [первый запрос] был отправлен в последние несколько дней, после того как информация о нашей работе достигла OpenAI».

Если это правда, то это означает, что команда OpenAI убедилась в правильности подхода Бакмастера и Альпёге и решила использовать свое материальное преимущество в вычислительных ресурсах, чтобы первой получить формальное доказательство.

Пост OpenAI подтверждает большую часть этой хронологии, в частности, что последние усилия начались 1 сентября, вдохновленные слухами о решении двух «Задач тысячелетия». Кроме того, в посте подтверждаются продолжающиеся разговоры с Бакмастером и Альпёге.

Хотя проблема широко исследуется математиками, конкретная тактика, выбранная Бакмастером и его соавтором, встречается гораздо реже. В результате Бакмастеру показалось подозрительным, что OpenAI в итоге применила тот же подход в то же время.

«Путь к проблеме Клэя через гладкую силу, варианты c и d в формулировке Феффермана, — это путь, который открыли Луис и Диего и который мы с Левентом тихо выбрали для атаки, — написал Бакмастер. — Почти никто другой из известных мне людей над этим не работал, — продолжил он. — Это не то направление, к которому можно прийти за несколько дней, просто дав модели формулировку задачи».

Хотя Альпёге работает в Anthropic, он не проводил это исследование от имени компании. Поэтому дуэт использовал смесь моделей, полагаясь в основном на Codex от OpenAI. Тем не менее, принадлежность Альпёге к конкурирующей лаборатории, по-видимому, была болезненной точкой для OpenAI, и Бакмастер утверждает, что Себастьен Бубек просил его убрать упоминание заслуги Альпёге в рамках предлагаемого компромисса.

Когда Бакмастер настоял на публичном раскрытии спора, он говорит, что Бубек ответил: «Зачем вам разрушать свою карьеру?» Бакмастер говорит, что когда он возразил, Бубек добавил: «Если вы не хотите, чтобы я был добр, то мне не обязательно быть добрым».

Бакмастер также выразил обеспокоенность тем, что, поскольку он активно использовал Codex при сборке проекта, информация из его работы могла повлиять на собственные усилия OpenAI по решению проблемы. OpenAI оставляет за собой право обучать модели на взаимодействиях с Codex, хотя пользователи могут отказаться от этого. Если команда OpenAI использовала модель, обученную на собственных взаимодействиях Бакмастера с Codex, вполне вероятно, что она могла воспроизвести его работу при столкновении с похожей проблемой.

В своем посте OpenAI преуменьшила возможность регургитации. «Мы (исследователи и агенты) не видели их работу никаким образом, пока они не опубликовали ее публично — в частности, никакие данные конкретных пользователей не были доступны для решения этой проблемы, — говорится в посте. — Хотя это маловероятно, мы не можем исключить, что деидентифицированные данные, полученные из их использования наших продуктов, помогли улучшить наши модели. Однако наши доказательства существенно различаются, и даже точные доказанные результаты различаются в случае Эйлера (вынужденный против невынужденного)».

Так или иначе, этот вопрос, вероятно, вновь разожжет продолжающиеся дебаты о роли ИИ в математических исследованиях и о конкретных стимулах OpenAI. Со своей стороны, Бакмастер, похоже, считает, что лучший ответ — вынести как можно больше информации об исследовании в публичное поле.