Математика уничтожена? 25 лауреатов Филдсовской премии предупреждают

Репортёр: Чжоу Ю, China Newsweek

Редактор: Ду Вэй

Операционный редактор: Ван Линь

11 сентября по местному времени 25 лауреатов Филдсовской премии, включая Теренса Тао и Дэн Юя, совместно опубликовали заявление «Серьёзное отклонение искусственного интеллекта в математике», доведя до апогея «войну» между такими ИИ-компаниями, как OpenAI и Anthropic, и математическим сообществом. В заявлении говорится, что подход ИИ-компаний, использующих решение математических задач в качестве критерия оценки возможностей моделей, наносит ущерб самой математической науке и математическому сообществу и существенно расходится с фундаментальной целью математического сообщества — стремлением к концептуальному пониманию.

Это расхождение в последнее время становится всё более очевидным. 8 сентября OpenAI заявила, что её нераскрытая внутренняя ИИ-модель за 88 часов решила проблему существования и гладкости решений уравнений Навье — Стокса (уравнения Н-С). Уравнения Н-С являются ключевыми уравнениями, описывающими движение жидкостей, и широко применяются в прогнозировании погоды, проектировании самолётов и других областях. Математический институт Клэя (CMI) в 2000 году включил проблему существования и гладкости их решений в список семи «задач тысячелетия» с премией в 1 миллион долларов.

Однако математик из Нью-Йоркского университета Тристан Бакмастер и исследователь Anthropic Левент Альперге ранее уже добились ключевого прогресса в решении связанных вопросов и 7 сентября обнародовали свои результаты. Бакмастер затем обрушился с критикой на OpenAI, полагая, что компания активизировала усилия только после того, как узнала об их прогрессе. Он рассказал, что использовал неопубликованные черновики и выкладки в инструментах для работы с кодом OpenAI и подозревает, что модель OpenAI «подсмотрела» их. OpenAI опровергла это утверждение, но признала, что не может полностью исключить косвенное влияние пользовательских данных на обучение модели. В настоящее время OpenAI не планирует претендовать на премию CMI. Математическое сообщество ещё не дало официального признания доказательству OpenAI.

Действия OpenAI быстро вызвали ожесточённые споры о научном приоритете, этике данных и границах ИИ-исследований. С мая этого года ИИ уже решил несколько математических задач, и OpenAI недавно сообщила, что обратила внимание на ещё одну «задачу тысячелетия» — гипотезу Ходжа.

ИИ продолжает подрывать основы человеческой математики. Профессор Женевского университета Станислав Смирнов — лауреат Филдсовской премии 2010 года и один из 25 подписавших заявление. 12 сентября он дал эксклюзивное интервью China Newsweek.

Станислав Смирнов. Фото/скриншот видео

«Как рабочие, которые жалуются, что их заменили экскаватором»

China Newsweek: От составления до публикации заявления прошло всего несколько дней. Какова главная причина такой срочности?

Смирнов: Большинство коллег не ожидали, что события будут развиваться так быстро и вызовут столь бурные споры. Учитывая стремительное развитие ИИ, нам нужно действовать быстро, чтобы выработать правила игры на будущее.

China Newsweek: В заявлении использовано выражение «серьёзное отклонение». В чём фундаментальное расхождение между математическими целями ИИ-компаний и целями, которых придерживается само математическое сообщество?

Смирнов: Прежде всего мы должны ответить на вопрос: зачем общество поддерживает математические исследования? Математика, как музыка и искусство, является важной частью человеческой культуры и основой многих других дисциплин и технологий. Для многих математиков культурная и художественная ценность математики важнее всего.

Многие социальные приложения, порождённые математикой, — от мобильных телефонов и самолётов до самого машинного обучения — изначально создавались ради стремления к красоте науки. До сих пор ИИ-компании использовали математику как показатель возможностей больших моделей, и это понятно. Эти модели стали настолько мощными, что трудно найти подходящие критерии оценки. Но нынешние методы оценки часто сводятся к созданию длинных доказательств известных гипотез, тогда как идеи, которые могут возникнуть в процессе исследования этих гипотез, возможно, важнее.

Двое моих друзей говорили, что математики, жалующиеся на ИИ-доказательства, похожи на рабочих, которые жалуются, что их заменили экскаватором. Я же считаю, что эту аналогию следует перенести в контекст археологических раскопок. Экскаватор действительно работает быстрее, но может повредить ценные артефакты. Если бы эти артефакты раскапывала группа рабочих, работающих гораздо медленнее, они были бы сохранены гораздо лучше.

China Newsweek: Заявление OpenAI об уравнениях Н-С вызвало множество споров. Бакмастер утверждает, что OpenAI запустила свою модель «наперегонки» только после того, как узнала о прогрессе его команды. Как вы относитесь к подобным инцидентам?

Смирнов: Мы уже видели, как некоторые большие модели заимствуют чужие идеи без указания авторства или используют неопубликованные идеи. Если бы так поступил математик-человек, это считалось бы серьёзным нарушением академической этики. Некоторые считают, что плагиат ИИ у людей приемлем, но я с этим не согласен.

Однако сейчас более важный вопрос в том, что разные группы и отдельные люди придерживаются совершенно разных взглядов на это. Нам действительно необходимо выработать новые правила для разрешения подобных конфликтов. Мы должны осознавать, что дальнейшее развитие ИИ может привести к существенным изменениям в принципах его работы, поэтому наше понимание ИИ также нуждается в постоянной корректировке. Если смотреть позитивно, мы можем стремиться к диалогу и балансу между всеми заинтересованными сторонами, но это требует усилий.

China Newsweek: Заявление не призывает к полному отказу от ИИ и признаёт, что ИИ способен помогать и ускорять математические исследования. Каким вы представляете идеальный ИИ-инструмент для математических исследований?

Смирнов: ИИ очень хорошо понимает известную информацию, проводит эксперименты и проверяет, могут ли существующие методы решить текущую проблему. Но они плохо справляются с оценкой эффективности новых методов или выдвижением по-настоящему новых идей. Впрочем, их уровень стремительно растёт, и я полагаю, что в ближайшие годы нам придётся скорректировать традиционные методы исследования. Но я уверен, что мы сможем найти множество применений ИИ, которые принесут пользу не только науке и обществу, но и самим ИИ-компаниям.

Равенство ещё не достигнуто

China Newsweek: Какое из недавних достижений в математике, достигнутых с помощью ИИ, удивило вас больше всего? Почему оно вызывает такую тревогу?

Смирнов: Пока я не видел ничего, что особенно бы меня удивило. Некоторые вопросы, которые меня действительно интересуют, по-видимому, всё ещё выходят за рамки возможностей ИИ. Больше всего меня беспокоит, что чрезмерное внимание к получению доказательств, а не к пониманию целей исследования, может нанести ущерб и самой науке, и её потенциальным применениям.

China Newsweek: Если студенты смогут получать доказательства непосредственно от ИИ, смогут ли они получить достаточную математическую подготовку? По-прежнему ли важен процесс преодоления трудностей, упорной борьбы и самостоятельного нахождения ответа?

Смирнов: Даже для опытных исследователей ИИ может нанести большой вред. Один мой знакомый учёный признался, что после года использования ИИ для генерации упражнений и ответов к курсу обнаружил, что его способность решать задачи уровня студентов сильно ухудшилась. Я вижу, что большинство студентов осознают этот риск и стараются решать задачи самостоятельно, используя ИИ лишь как подсказку.

China Newsweek: Если ИИ сможет массово производить математические результаты, то в чём смысл работы математиков-людей? Не станет ли скорость усвоения этих результатов человеком новым узким местом математического прогресса?

Смирнов: Методы, которые ИИ использует для исследования и решения задач, сейчас больше ориентированы на форму. Возможно, конечный результат можно понять, но кто будет его понимать? Есть вероятность, что мы наблюдаем рождение совершенно нового вида научной работы — извлечения идей из текстов, сгенерированных ИИ. Может ли ИИ сам порождать новые идеи? Пока что, судя по всему, нет, но я не уверен.

China Newsweek: Становится ли сложнее корректно цитировать предыдущие исследования при использовании ИИ для генерации математических доказательств? Не приведёт ли это в долгосрочной перспективе к разрыву непрерывности человеческого знания?

Смирнов: В принципе да, особенно когда люди не могут понять доказательства ИИ. Но если мы найдём способ избежать этого и выработаем хороший способ взаимодействия человека и машины, ИИ может стать очень полезным инструментом.

Я пытался применять ИИ к своим исследовательским задачам, но самые современные модели пока кажутся не слишком практичными, возможно, потому что им не хватает какого-то ключевого понимания. Тем не менее ИИ — отличный инструмент для поиска информации в определённой области или для редактирования статей.

China Newsweek: Некоторые могут считать, что недавняя серия событий — неизбежный результат «равенства знаний» благодаря ИИ. Что вы об этом думаете?

Смирнов: Я пока не вижу особого равенства, большинство достижений получено с помощью закрытых моделей. На самом деле, если бы ИИ-компании делились ресурсами с математиками, а не пытались всё делать самостоятельно, ситуация могла бы быть гораздо лучше. Я верю, что это скоро произойдёт. В конце концов ИИ-компании и математики придут к какому-то консенсусу, и тогда будет достигнуто равенство.