Математики выступили против лабораторий ИИ: 25 лауреатов Филдсовской премии подписали открытое письмо

Двадцать пять ведущих математиков подписали открытое письмо, в котором утверждают, что лаборатории ИИ угрожают их интеллектуальному труду, соревнуясь друг с другом в решении знаменитых математических задач. Каждый из подписавших является лауреатом Филдсовской премии — самой престижной награды в области математики.

На этой неделе профессор Нью-Йоркского университета Тристан Бакмастер обвинил OpenAI в давлении на него с целью не указывать в качестве соавтора сотрудника Anthropic, решившего важную математическую задачу, и предположил, что компания использовала их работу с Codex для создания собственного прорывного доказательства за марафонный уикенд вычислений.

В четверг OpenAI отозвала своё спонсорство математического мероприятия в Калтехе после критики со стороны исследователей университета.

Хотя способность моделей ИИ решать выдающиеся математические задачи человечества могла бы стать благом, подписавшие новое письмо утверждают, что это произойдёт лишь в том случае, если эти решения смогут быть поняты и осмыслены математическим сообществом и, в конечном счёте, всем миром.

«Часто эти решения объявляются в спешке, не оставляя времени на должное оформление, выделение новых методов и идей и цитирование соответствующих предыдущих работ других исследователей», — пишут они, отмечая, что доказательство OpenAI остаётся непроверенным. «Как и во всех творческих профессиях, это порождает серьёзные вопросы об авторстве и плагиате. Более того, без готовых математиков, которые должны заботиться о развитии и интеграции этих идей в математический канон, концепции, порождённые ИИ, никогда не станут по-настоящему живыми, а crucial-цепочка человеческой передачи знаний между математиками будет утрачена».

Поскольку другие математики становятся всё более подозрительными и задаются вопросом, не попали ли их собственные запросы к Codex в новые модели OpenAI, существует реальный страх, что культура открытых исследований окажется под угрозой. Сегодня, если передовые лаборатории видят полезный путь к открытию, они могут потратить десятки миллионов долларов, используя большие языковые модели, чтобы опередить оригинальных исследователей в доказательстве — динамика, которая будет стимулировать секретность.

Это письмо последовало за Лейденской декларацией, выпущенной рабочей группой математиков в июне. Этот документ также осмысляет то, как доказательства, полученные с помощью больших языковых моделей, изменят их работу, и предлагает набор рекомендаций для математиков, институтов и политиков.

Как и в случае с программной инженерией и другими областями, где инструменты ИИ меняют рабочие процессы, математики находят оправдание в работе вокруг работы: ценность математики не только в доказательствах и в том, кому за них достаётся признание, но и в интеллектуальной надстройке, которая питает студентов, находит новые вопросы и идеи и интегрирует их в более широкую человеческую цивилизацию.

И если вас не особенно волнует безжалостный мир высокоставочных математических доказательств, не забывайте: ваша область — следующая.

«Проблемы, с которыми сейчас сталкивается математическое сообщество, схожи с проблемами, с которыми сталкиваются другие научные и творческие профессии, и указывают на проблемы, с которыми может столкнуться всё человечество: как сделать так, чтобы по мере того, как ИИ меняет способы выполнения работы, мы не упускали из виду, для чего эта работа изначально была предназначена», — пишут они.