数学中国

 找回密码
 注册
搜索
热搜: 活动 交友 discuz
查看: 42|回复: 0

陶哲轩参赛,在这项极其严格的数学测试中,人类表现优于 AI

[复制链接]
发表于 2026-6-25 18:58 | 显示全部楼层 |阅读模式
陶哲轩参赛,在这项极其严格的数学测试中,人类表现优于 AI

就在外界惊呼“ AI 快要接管纯数学研究”之际,一场限制条件极其严格、并由 30 位数学家以匿名方式进行评审的数学测试,却揭开了 AI 数学能力的另一面:AI 不仅会幻觉、会跳步骤,甚至还把数学家论文里的关键论证几乎原样照搬,却忘了注明引用。

该测试共包含 10 道题目。所有题目有一个共同的关键前提:它们出自研究者在工作中自然遇到并已解决的问题,但截至测试时既未发表,也未曾出现在互联网上。这是整个测试设计的核心,只有这样,才能切断 AI 在训练数据中检索答案的可能。

测试表明,在当前的技术范式下,AI 更适合扮演一个强大但不能做到 100% 可靠的科研助手,而非一个能够独立提出深刻猜想、构建理论框架的科研机器。尤其在直觉层面——识别哪个方向值得追逐,在最困难的环节做出决断—— AI 与人类之间的距离,仍清晰可见。

撰文 | REN

有一道关于莫比乌斯纸带几何性质的数学题,困扰数学界近半个世纪。2025 年,布朗大学数学家理查德·施瓦茨(Richard Schwartz)解决了它,论文发表在《数学年刊》(Annals of Mathematics)上。

一年后,施瓦茨从这道题的研究过程中提取出一个新问题,想测试一下 AI 能否做出来。他认为,如果借鉴他的研究成果来求解,一个不错的几何学或低维拓扑学研究生应该能很快做出来,但如果不依赖他的成果,那可能要花费数年时间。

“我花了 4 年的时间去解决那个 50 年悬而未决的问题。如果 AI 找到的正确解法与我的解法截然不同,我会非常佩服。”他说道。



测试结果很快出来:四个 AI 系统中有三个都给出了及格的答案。如果换成普通人,或许又要被 AI 的数学能力“惊得说不出话来”。但评审们发现,AI 在论证的第一部分几乎逐行照搬了施瓦茨的论文,连专有术语和符号标记都原样复用,却没有在任何地方注明引用这篇文章。

面对这个结果,身为评审的施瓦茨哭笑不得:“ AI 高度借鉴了我的论证过程却没有给出任何引用,有点糟心。如果是人类研究员,我会认定其有不道德的学术行为并拒稿,但 AI 适用这个说法吗?”



当然,施瓦茨也在一些地方肯定了 AI 的推理,列举了自己和 AI 的不同思路:





这个测试来自于一项更大规模的 AI 数学能力测试项目,名为 First Proof 。6 月 10 日,为期近四个月的数学测试结果在其官网上正式公布。这批测试向四个 AI 系统提出了 10 道研究级别的数学题,并由 30 位领域专家以匿名方式进行了评审。

结果表明,AI 虽然在部分题目上展现出令人印象深刻的解题能力,但在整体上仍然无法达到顶尖研究者的水平。

这一结果发布的时间节点很特殊。就在 2026 年 5 月,OpenAI 的一个内部模型推翻了匈牙利数学家保罗·埃尔德什(Paul Erdos)在近 80 年前提出的、数学界也普遍认可的一个猜想,令研究者们大为震惊。



随着各类媒体对 AI 数学能力的报道热情高涨,First Proof 项目的测试结果揭示了一幅更为复杂的图景:当测试从竞赛式比拼转向真实研究场景,当题目不再来自历史积累而是来自当下正在进行的数学工作,AI 的表现就会呈现出截然不同的面貌。

First Proof 项目的四个主要发起人,来自美国斯坦福大学、加州大学伯克利分校、得克萨斯大学奥斯汀分校和哈佛大学。项目的宗旨是向数学界和公众提供关于 AI 解题能力的准确信息,不依赖模型开发公司的自我评估,而通过独立、透明、可复现的实验来做出判断。



该项目获得了来自 Anthropic 和 OpenAI 的非限制性捐款。这笔资金只用于支付题目创作和评审的科研费用,不用于支付编辑委员会或董事会成员的薪酬。规则还明确规定,编辑委员会和董事会成员在任职期间不得接受任何 AI 公司的有偿工作。

在这次测试之前,First Proof 曾于 2026 年 2 月进行了第一批测试,以非正式方式向公众开放题目,允许任何人用自己选择的系统尝试作答。但那次测试没有独立核查参与者的操作方式,也没有组织专家对答卷进行系统评分。第二批测试是该项目首次以正式基准的方式运行。


今年 3 月,谷歌曾表示,其内部模型 Aletheia 成功攻克了 6 道来自 FirstProof 第一批测试集的难题 | 图源:https://arxiv.org/pdf/2602.21201

第二批测试的 10 道题目来自各数学领域的一线研究者,覆盖范围从可计算性理论(computability theory)、离散几何(discrete geometry)到随机偏微分方程(stochastic partial differential equations)和冯·诺伊曼代数(von Neumann algebras),跨度足以检验 AI 在不同数学分支中的普遍能力。所有题目有一个共同的关键前提:它们出自研究者在工作中自然遇到并已解决的问题,但截至测试时既未发表,也未曾出现在互联网上。这是整个测试设计的核心,只有这样,才能切断 AI 在训练数据中检索答案的可能。

在正式测试开始前,出题者须在零数据留存(Zero Data Retention)环境下对候选题目进行预测试,使用的模型包括 ChatGPT 5.4/5.5 、谷歌 Gemini 3.1 Pro 以及 Anthropic Opus 4.7 。为期一周的预测试表明,没有任何单一模型能够在 30 分钟内解出这些题目。两道候选题目在此阶段被淘汰:一道因为模型的回应直接找到了文献中的类似已有结论,另一道由于模型检索到了一篇足以快速推导出答案的相关论文,出题者主动撤回。



进入正式测试的共有四个系统,参赛资格要求所有系统必须以公开可用模型为基础,通过应用程序 API 调用运行,且必须向 First Proof 完全公开代码和运行日志。



系统 A 名为 ProofCouncil ,由瑞士苏黎世联邦理工学院和丹麦奥胡斯大学的学术团队开发,主要基础模型是 ChatGPT 5.5 Pro ,同时也调用了其他几个模型协作;系统 B 是加州大学洛杉矶分校的 Moonshot Harness ,研究团队包括知名数学家陶哲轩(Terence Tao)等人,基础模型同样为 ChatGPT 5.5 Pro ;系统 C 是代表OpenAI 直接参赛的 ChatGPT 5.5 Pro ;系统 D 名为 Momus ,由普林斯顿大学开发,以谷歌 Gemini 3.1 Pro 为主要基础模型。

值得一提的是,谷歌内部专为数学设计的 Aletheia 系统,以及 Anthropic 尚未向公众开放的 Claude Mythos 完整版,均因不满足“公开可用”的条件而未能参赛。

测试于 5 月底在亚马逊 AWS 的独立服务器上运行,全程由 First Proof 团队操作,以确保任何系统都无法获得来自人类的额外帮助。每个系统对每道题只有一次机会,须在 24 小时内完成,并以格式规范的 LaTeX 文档提交答卷。随后,评审工作在哈佛大学数学科学与应用中心举行,30 位相关领域专家以匿名方式参与,仿照数学期刊同行评审的流程,将每份答卷评定为“无实质性问题”“需小幅修改” “需大幅修改”或“应予拒绝”四个等级,前两个等级被视为通过性评级。


测试过程 | 图源:First Proof

从整体成绩来看,四个系统提交的所有答卷中,有 7 道题至少有一份答卷获得了通过性评级,另有 2 道题至少有一份答卷被评为需大幅修改,而第 4 题(度量几何)则全军覆没。


四套 AI 系统的总成绩 | 图源:First Proof

表现最好的是使用了多个模型的系统 A 。它在第 1、2、3、9 题获得需小幅修改的评级,在第 5 题(随机偏微分方程)和第 7 题(组合拓扑)获得最高等级的无实质性问题,在第 10 题获得需大幅修改,第 4、8 题被拒绝,第 6 题因与 OpenAI 接口的技术故障未能提交。

评审认为,若非这一技术问题,系统 A 在第 6 题上大概率也能获得最高等级的评定。不过,总计 6 道题获得通过性评级,也让系统 A 略胜一筹。系统 B(UCLA)和系统 C(OpenAI )各有 5 道题获得通过性评级。系统 D(普林斯顿)只有第 7 题通过,其余 9 道题均遭拒绝,但很大一部分原因是技术问题。

本次测试中最引人注目的成功发生在第 5 题。这道题要求证明或推翻一个带狄拉克 δ 漂移项的随机热方程最多只有唯一的不变概率测度。

题目来自三名数学家之手,他们从 2025 年 10 月开始讨论这道题,于 2026 年 1 月完成证明,历时数月且需要三人协作,各自负责不同的数学工具。

系统 A 给出的证明走了一条与人类解法完全不同的技术路径。它的核心是将来自数学家 Khoa Le 的随机缝合引理(stochastic sewing lemma)用于建立一个漂移估计,然后通过吉尔萨诺夫熵界(Girsanov entropy bound)推导出过渡概率相对于高斯不变测度的绝对连续性,从而证明唯一性。三位评审均将其评定为“无实质性问题”,并指出,系统 A 建立的中间结论比人类解法更强,是一条真正新颖的证明路径。



反差最强烈的失败出现在第 4 题,由麻省理工学院(MIT)数学家拉里·古斯(Larry Guth)提出的一道关于 4 维矩形之间度量映射的命题。四个系统无一通过,而系统 C(ChatGPT 5.5 Pro)的答卷出现了一种特别值得关注的错误:它出现了幻觉,声称古斯 2007 年的论文《矩形的面积扩展嵌入》(Area-expanding embeddings of rectangles)中存在一个与待证命题几乎等价的“引用定理”,然后从这个定理出发,推导出了结论。



三位评审均发现了 AI 的幻觉,其中一位指出,系统 C“捏造了一个与待证命题完全吻合的文献定理,然后将待证定理直接推导出来”。检索该论文实际内容,对应章节中根本不存在任何此类陈述。

此外,引用问题在多道题中反复出现,构成了本次测试最系统性的缺陷。评审报告记录了两类具体问题:遗漏应当引用的文献,以及提供了实际上并不支持所述命题的错误或虚构引用。

在第 1 题(可计算性理论)中,系统 B 和系统 C 的答卷大量借鉴了图列茨基(Turetsky)关于可计算范畴结构自同构群编码的已有工作,却完全未予引用。第 2 题(离散几何)的情况则是开头提到的,多个系统的答卷在论证的第一部分几乎逐行照搬出题者施瓦茨早年发表的论文,却没有在任何地方引用这篇论文。

报告还指出了 AI 答卷的另一个规律性缺陷:在论证中,常规部分往往处理得繁琐而详尽,而在真正困难的关键步骤上却语焉不详,有时以“由标准论证可得”一笔带过,或引用实际上不包含该结论的论文来规避对难点的正面处理——这种做法,像极了我们在数学考试中做证明题,做到一半,发现证不下去,就开始乱写,然后祈祷不会被老师发现。

在成本维度上,各系统之间的对比颇具意味。系统 A 在整个测试中共花费 3186 美元,其中大部分输入 tokens 命中了缓存,压低了成本;系统 B 花费 4799 美元;系统 C(不附加任何外层框架的 ChatGPT 5.5 Pro)仅花费 117 美元;系统 D 花费 1014 美元。

系统 C 的通过题目数与系统 B 相同(均为 5 道),成本却不到后者的三十分之一。这组数字说明,学术团队在基础模型之上构建的多步骤协作框架(harness)可能会提升质量,但代价相当巨大,性价比的边际效益有限。


四套系统的成本和耗时 | 图源:First Proof

测试结果还揭示了一个有规律意义的模式:当一道题在结构上与文献中的已有结果高度相似,AI 的表现会明显好转。

第 2 题与施瓦茨本人的已发表研究在证明结构上直接相关,三个系统都给出了通过性答卷;第 7 题(组合拓扑)的答案是一个反例,四个系统都独立找到了这个反例,分歧仅在于写作质量。

相反,需要真正原创洞见、无法依靠文献结构转译的题目则普遍令 AI 遭遇困难。这与报告中另一个观察相互印证,AI 有时确实能给出与人类解法截然不同的新颖证明(如第 3、5、9 题),但这类成功并不稳定,与之并存的是对大量证明关键步骤的遗漏或掩盖。

First Proof 项目并未就此停步。6 月 17 日,该项目启动了面向公众的社区实验,在开放论坛上陆续发布一批规模较小的题目,预计一周后公布人类答案,并组织参与者公开交流各自使用的系统和方法。第三批正式测试计划于 2026 年 8 月至 10 月进行。


社区实验共有两道题,感兴趣的可以挑战一下:https://1stproof.org/assets/docs/batch2-community-week1.pdf

这场测试粉碎了关于 AI 将全面接管纯数学研究的末日论,至少目前是这样。测试表明,在当前的技术范式下,AI  更适合扮演一个强大但不能做到 100% 可靠的科研助手(如在问题 3 和问题 5 中的创新点),而非一个能够独立提出深刻猜想、构建理论框架的科研机器。

数学家亨利·庞加莱(Henri Poincaré)有一句名言:我们靠逻辑来证明,但要靠直觉来发明。这句话一语道破了数学乃至其他科学研究领域的本质,而直觉与逻辑的分别,或许正是理解这次测试结果的钥匙。

在逻辑执行层面,AI 已展示出相当的能力,有时甚至能找到数学家没有走过的证明路径。但在直觉层面——识别哪个方向值得追逐,在最困难的环节做出决断——人工智能与人类之间的距离,仍清晰可见。

回到文章开头施瓦茨那道关于莫比乌斯纸带的题目。AI 在那道题上几乎复制了他本人论文里逐行的论证,却忘了写下他的名字。

这或许是一个意外恰当的隐喻。AI 此刻最擅长的事,是在已经存在的思想结构里寻找捷径、转译、复用,却还没有学会科学研究中最朴素的道理:一个想法是谁先想到的,记得把这份贡献还给谁。

参考资料

[1] https://1stproof.org/index.html

[2] https://1stproof.org/documents/F ... 14_Announcement.pdf

[3] https://1stproof.org/assets/docs/report.pdf

[4] https://github.com/1stproof/batch-2/tree/m AI n

[5] https://www.nature.com/articles/d41586-026-01888-9

[6] https://www.nature.com/articles/d41586-026-01651-0

[7] https://github.com/1stproof/batch-2/tree/m AI n/batch-2-reviews

原创  REN  返朴  2026 年 6 月 24 日 08:48  上海

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?注册

x
您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|小黑屋|数学中国 ( 京ICP备05040119号 )

GMT+8, 2026-6-27 17:09 , Processed in 0.127805 second(s), 16 queries .

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表