我为什么没有签署菲尔兹奖得主的公开信

[这是一篇客座文章蒂莫西·高尔斯，转载自他的博客.这篇博客文章最初是用不同的文件格式写成，并用AI进行转换。—— T.]

大约11岁时，我第一次听说费马大定理。我立刻被问题陈述和伴随的故事深深吸引，并认真尝试证明它。虽然不出所料我失败了，但我从中学到了很多。

我天真地不知道该案例早在200多年前就已被欧拉证明，我决定从这里开始：一旦理清了，我就乐观地认为自己能准备好应对一般案例。

由于我仍然看不清从哪里开始，我决定进一步简化问题，专注于立方体之间的连续差分，目的是证明这种差值本身不可能是立方体。当时我不知道如何用代数语言表达自己在做什么，所以没有明确尝试证明丢番图方程没有解。

相反，我只是推算出一些连续的差异，凝视它们，试图弄明白为什么它们都不是完美的立方体。（我需要说明的是，这个故事是根据半个世纪后仅存的少量记忆痕迹，我认为可能发生的事情的重建，而非完全可靠的记载。）某个时候，我想取差分序列的差分列，发现它构成了一个算术级数列。

这感觉算是进步，于是我进一步研究了差分序列，纯粹经验地发现了一条规则：如果你从第代次方开始，不断取连续的差分，最终会得到恒定序列。

不知怎么的，我从未把这个观察转化为费马大定理的证明，后来我解决它的梦想被其他数学梦想取代了。然而，当我在数学教育中学习差分序列和多项式的去向时，我对这些话题的理解远比如果没有自己发现差分序列并花了愉快的时光玩它们时要好得多。

我提到这个故事只是为了说明这一现象，这个现象被强烈强调这封信由25位菲尔兹奖章得主签署，无论是否解决了问题，思考问题都能学到很多东西。

然而，最终我觉得自己无法签署这封信，尽管我同意信中许多内容。相反，我觉得更像我对莱顿宣言所做的那样，在博客文章中阐述自己的立场。

但需要理解的是，这样做并不是让我成为某个对立阵营的一员：事实上，我目前担心的一点是数学界可能会陷入严重分裂，而我非常希望避免这种情况。

此外，我同意我们正面临危机这一基本观点：我只是想提出一个稍微不同的分析。我并不声称这次分析完全原创，因为我知道其他数学家已经提出了与我类似的想法，尽管（就我而言）这些结论大多是独立得出的。

关于独立性，或许我应该澄清一下，虽然我在OpenAI的数学小组有联系，也曾提前获得他们的一些模型（通常在模型发布前几天），并且在Pro模型发布后免费获得访问权限，但我从未收到OpenAI的报酬。

我提到这些，是出于希望，也许有些天真，我写的内容不会被人因人身攻击而否定。另一个可能让我被视为“支持人工智能”的原因是，正如我多次公开声明的，我在剑桥有一个专门研究自动定理证明的小组。

然而，这实际上更符合反对人工智能的理由，因为我们团队一直在努力解决让计算机证明有趣定理的问题，尽可能理解人类如何证明有趣的定理，所以现在大型语言模型显然可以在没有我们这些洞察力的情况下完成，我们工作的主要动机之一就消失了。

换句话说，我们不得不吞下苦涩的教训（当然，我们一直都知道这是个明显的可能性，尽管发生的速度让我们感到意外）。我确实认为，即使我们可以把大型语言模型当作黑匣子，尝试理解这种理解依然是一个非常有趣且有价值的智力练习，但那是另一个博客文章的话题。

那我为什么没签信呢？让我从信中摘取几句话，表达我认为主要论点。

但解决问题只是实现概念理解和洞察这一主要目标的工具和代理。在人工智能世界中，忘记这一点可能会使工具背离主要目标。事实上，越来越快的“真假”陈述大规模生产可能会破坏肥沃的土壤，而不是赋予新思想生命。

也许我没有签署的主要原因是我并不完全认同这种观点。相反，我有一个更复杂的观点，这其实是在我二十五年前的文章《数学的两种文化》中表达过的，可以总结为：数学中对解决问题与概念理解之间关系存在着一种态度的光谱。

在光谱的一端，有数学家主要被解决问题的愿望驱动，他们认为概念理解是实现这一目标的重要手段。另一端是主要被获得概念理解驱动的数学家，他们认为解决问题是一种非常重要的手段，那结束。

我担心这封严重错位信可能被解读为“正确”的态度是将概念理解作为主要优先事项——事实上，上述句子几乎直接表达了这一点。但我认为数学家遍布各个光谱，这其实是件好事（或者说，到目前为止一直是好事——未来远不确定），我不想向包括我在内的大多数数学家暗示他们的数学气质是“错误”的。

我个人的数学态度与在Jacob Tsimerman 在推特上发帖（另一位未签署信的人），现在仔细看，这封信说明了我接下来要说的很多内容。

而这篇文章又是对丹尼尔·利特的回应，我认为他是数学和人工智能领域最睿智的评论者之一。他的观点被表达出来稍后会在这里发帖我故意没读完这篇，结果发现，正如我预料的，两者有很大重叠。

我还想借此机会推荐诺亚·史密斯的一篇优秀文章，题为英雄时代的终结，如果你还没读过。

到目前为止我一直在谈论个人的数学理解，但我怀疑大多数签署者关心的，更多是集体理解，而集体理解至少部分源于人类解决问题的活动。

我猜他们会完全连贯地论证，即使集体理解是主要目标，如果许多人主要出于解决问题的愿望驱动，那也完全没问题，并且有助于这种集体理解。

在这种解读下，问题就略有不同：是更应该让数学界的集体理解尽可能先进，还是应该对尽可能多的问题有答案？还是这两个目标各有不同价值，因此没有必要宣称其中一个更重要？

还是它们密不可分，以至于争论其中一个比另一个更重要毫无意义？当我们说“重要”时，我们是在说它对谁重要：对数学家来说，还是对整个社会来说？

我觉得这些问题很难，所以我不想仅仅给出答案。（你明白我说的意思了吗？）相反，我想尝试为我得出的任何结论提供至少一些论据，即使它们是初步的。

那么我们比较两种情景。在第一种情景中，我认为实际发生的可能性更大，模型会公开，这些模型在解决问题方面比几乎所有数学家都更强。

如果还有少数残余数学家能做模型做不到的事情，即使如此，他们大量使用模型也会更快。正因为如此，我们在短时间内得到了许多深切关心的问题的答案，但我们获得这些答案的速度远远超过数学界吸收的速度。

尤其是，大多数答案都是人类数学家毫不费力地得到的——只需提示“谢谢——请继续”。

在第二种情景中，出于完全不同的原因，国际上达成了一项协议，阻止了比我们现有模型更强大的模型的公开发布，科技公司内部的数学家们也同意暂缓让内部模型解决重大问题。

相反，他们只在某个具有代表性的机构要求时才解决问题，该机构认为获得某个问题的解决方案的好处大于人类在更长时间内努力解决的利益。

我想考虑这两种情景在个人和集体理解上有什么区别。我先从个人理解说起。

有人可能会说，对于个体理解来说，如果突然被大量重大新结果淹没，变化不会太大。数学已经远比我能理解的还多（例如，尽管我对费马大定理的证明感到着迷，但从未尝试理解证明），即使在我理解的部分中，我因为自己发现而理解的部分也占很小的一部分，尽管其中一部分我理解得比其他任何东西都深（至少暂时如此——过一阵子我会忘记事情，失去很多我建立的理解）。

然而，从个人理解的建立角度来看，有一个积极的变化是，我们将有更多选择去研究的结果。此外，如果我们在某个点上卡住了，人工智能也能帮助我们。

主要的负面变化是，我们可能会停止使用那部分大脑，而在数月甚至数年内为困难研究问题苦苦挣扎时，这对理解能力极为有帮助。

我说“很可能”是因为原则上没有什么能阻止我们在不参考大型语言模型的情况下思考非常困难的问题，但实际上人们似乎不太可能投入现在这样高强度的努力。

这种情况可能有点像卫星导航的情况，人们总可以决定不使用导航，以保持大脑中能看地图、学习路线并跟随的部分活跃，但实际上大多数人还是会屈服于使用导航的诱惑。

（事实上，我自己确实努力保持那部分大脑活跃，最近我曾在手机上短暂查过路线，但去时忘了带手机，自己找到了方向感到相当自豪。）但即使我们只是阅读AI输出，我认为大脑中解决问题的肌肉也不会完全萎缩。

当学生阅读数学论文时，我强烈建议他们（我认为这是很标准的建议）“主动”阅读，而不是“被动”，比如尝试自己证明结果，只有在卡住需要提示时才看论文，即使如此，也尽量少多做。

如果一个人以这种方式阅读论文，那么你就一直在解决问题，有些只是练习题，有些则更难。看起来LLM很可能能了解我们的数学背景，并给我们恰到好处的提示，让我们以这种主动的方式完成数学论文。

是的，我们会失去自己解决难题后那种特别深刻的理解和归属感，但我不确定数学进步会因此受到影响。我非常想听听针对这一点的反驳意见。

也就是说，我很想知道在人工智能远比我们更擅长寻找证明的世界里，这种深度的证明参与会有什么用处。

集体理解如何？让我再引用几段信。

事实上，越来越快的“真假”陈述大规模生产可能会破坏肥沃的土壤，而不是赋予新思想生命。

这些解决方案往往仓促发布，没有时间进行正式的写作，孤立新方法和新思想，也引用他人相关以往的工作。正如所有创意职业一样，这引发了严重的归属和抄袭问题。此外，没有愿意负责其发展和融入数学经典的数学家，人工智能构思的想法永远无法完全发展，数学家之间关键的人类传递链也将丧失。

我会回到关于正确引用的问题，重点谈谈我认为的核心担忧：如果结果被证明得太快，消化过程将变得不可能。我确实担心结果无法被妥善消化，但原因不同。

首先要说的是，人工智能产生的不仅仅是真假陈述：我们现在不仅知道纳维-斯托克斯方程在平滑强迫下允许有限时间爆破，而且我们有了证明，这基于人类数学家大量精彩的工作。

过去很多人担心人工智能会用极其不透明的证明解决我们喜欢的问题，但事实并非如此，尽管他们的文章常常令人失望。（顺便说一句，我认为这些不充分的文章几乎肯定只是暂时的烦恼，因此并不构成对数学实践或未来数学理解的根本威胁。）

其次，即使新结果量很大，数学本身就是一门高度专业化的学科，数学家们可以并行工作。比如说，如果我们要在一年内消化1000个重要结果，这些结果大致分布在数学领域，那么大多数数学家子群体可能会想理解大约30个，而对于每个具体问题，可能只有少数专家是显而易见的领导者，而这少数人因问题而异。

所以这将是一项艰巨的任务，但不一定是不可能的。

在这个背景下，值得思考人类数学家的大量产出，这种产量似乎在最近甚至在人工智能出现之前就在增加。虽然我有时听到过对此的抱怨，但我绝没听说过有人建议人类数学家应该放慢证明有趣定理的速度。

这部分可能是因为这些定理的作者费心写好论文，做得好。但那些大量论文，包括重要论文，写得不好，作者讲述难以理解的又该如何呢？

这可能令人烦恼，但这是熟悉的烦恼，我们并不认为这是危机。

第三点是，即使AI输出量过大，我们无法完全消化，这也不一定是坏事。做个不完美的类比，现在流媒体平台上的内容比任何人都可能观看的还多，结果几乎肯定存在一些非常好的内容，但几乎没有人观看。

但这显然并不比内容大幅减少且所有内容都获得应有关注更糟。回到数学，如果AI生成的内容太多，我们无法消化，那么我们可以选择想要消化的部分。

为此，我们需要对数据库有一定的了解（这有点类似于人类数学家通常能学到很多关于自己领域已知结果的情况，即使他们不完全理解证明的细节）。

一种实现这一点的方法是创建一个设计良好的数据库，可能借助人工智能的帮助。但也许这并非必要，我们可以直接与大型语言模型对话，让它以那种“知道存在什么”的方式，从你想理解的数学领域提供一个鸟瞰视角。

人们担心的是，人工智能会发现一些非常有趣且重要的数学部分，却被忽视;而如果这些部分是人类数学家发现的，根本不会被忽视。这甚至可能确实如此，但重要的是，人工智能发现且未被忽视的有趣且重要的数学数量，是否会超过人类在人工智能扮演较小角色时被发现并妥善消化的有趣且重要的数学数量。

简而言之，在我看来，虽然大量“大型”人工智能结果可能会增加未被正确消化的重要数学内容，但同样也可能增加是被充分消化，这似乎是个不错的划算。

让我快速谈谈人工智能未能正确给人类数学家署名的问题。我同意这现在是一个严重问题，但我认为这是暂时的另一个问题。很快，整个“信用体系”必然会崩溃，因为找到一个惊人的证明，和公民科学家通过望远镜发现一个新彗星天体一样，作为智力成就。

在那之前，给予人类应有的认可非常重要，因为职业可能依赖于此，但这种情况很快也会消失。我必须说，我对这个问题的存在感到困惑，因为我本以为如果你让大型语言模型（LLM）看一个证明，告诉你哪些观点与文献中已有的观点接近，它会非常擅长这项任务。

我希望这个难题的答案不是人们太急于没有费心去做，但我担心至少在某些情况下，情况可能会如此。如果是这样，那么那些粗心大意的人理应受到批评，但与数学的生存相比，这只是小事，尤其是如果引用不足能迅速得到纠正。

这是否意味着我对数学家在后人工智能时代至少能像人工智能未能证明重大定理那样消化数学？不完全是。但我担心的不是我们做不到，而是当前支持这种消化过程的社会结构将被摧毁，无法得到充分替代。

一种可能发生的方式是，人工智能会极度扰乱社会，甚至杀死大量人类，以至于像当前数学传统的保存那样的存在不再重要：唯一重要的是人类的生存。

但这又是另一个博客文章的话题（事实上我正在写这篇文章）。

我们假设我们运气好，人工智能基本保持在控制之中。我担心的是，我们无法将所知传授给新一代数学家。就我自己而言，我成为数学家的主要动力是梦想解决未解的问题——越有名越好。

我也一直更喜欢直接思考问题，而不是读书、论文和学习别人的数学。（我不是说这好，只是陈述我自己的一个事实。）如果没有解决著名问题的梦想，我不确定自己是否会成为数学家。

我并不完全排除这个可能性：也许真正激励我的是我对这门学科有天赋，解决问题是赢得少数同行尊重的一种方式。也许我本可以用不同的方式来赢得尊重，比如认真思考某个数学领域，直到能向别人展示我对它的理解有多深。

但我不确定这对我有多大动力。我非常希望有一群年轻人愿意接受这份工作威尔成为一个强大的动力，因为我认为人类数学传统的存续很可能取决于它。

因此，我认为的主要风险是，许多本应攻读数学博士并成为数学传统守护者的人，将不再愿意继续。我们这些拥有博士生的人，包括我自己，都需要尽最大努力，想出富有想象力的方式让他们高效利用时间（当然还要与学生们协商）。

我们是否能在这方面做好，可能对数学的未来产生巨大影响。相关风险是，政策制定者会认为数学家不再需要，资金将变得更加难获得：我们迫切需要找到合理的方法来解释拥有大量人类数学专家的价值，即使他们不再负责寻找新的定理证明。

我没有签署这封信的最后一个原因是，我并不确定它提出了哪些要求，而这些要求还没有发生。看起来，在不久的几个月内，能够解决重大数学问题的大型语言模型（LLM）就会发布，而且它们对更普通的问题也完全不会遇到任何困难。

无论我们对此感到多么遗憾，这些模型对数学的影响绝不可能说服人工智能公司停止发布它们，尽管安全担忧可能会导致一些延迟，给我们更多时间来调整。

假设它们被发布，无论我们愿不愿意，都会涌现大量新结果，而且不再是人工智能公司负责，尽管也许AI公司会获得更强大的模型，从而获得超过他们应得的头条结果的模式。

所以我觉得批评AI公司生成过多解决方案太快毫无意义。事实上，这很可能只是提前几个月，结果本来就会发生什么，甚至可能让结果比随机发现模型公开后更受控地发布。

在这种情况下，我认为我们能做的最好是识别即将到来的变化，并尝试找出最不令人满意的方式应对。