没有数学家的数学

昨天，OpenAI已宣布解答数学中十个未解问题，全部由尚未发布的模型发现。只有一门，就是编码理论，我懂得足够多说“嗯，这很重要”，但据数学家们说，这很重要。

人们不可避免地会编造一些诡辩来应对，说服自己什么都不会改变。这没关系。人们需要应对。但当世界在我们周围发生变化时，我们不能永远把头埋进沙子里。

所以，这里列出了人们应对人工智能接管数学的应对方式，以及每种应对方式如何被现实推翻。

我的意图并不是让所有人都感到沮丧，而是帮助他们消化这项技术的意义。这里的论点相对容易携带：根据需要用“植物学”或其他词替代“数学”。

改变了规则。

显而易见，不值得多说。

“我们将指挥人工智能，指引他们解决问题和研究领域。”

人工智能将在味道还有直觉。到某个时候，指路的人会得到比说“这里有校验器，玩得开心”并付费买代币的人还差。

“我们将教授人工智能发现的数学。”

人工智能将比人类更会成为教师。无论如何，前沿数学的说明性工作不会有真正的人类读者。

“我们将决定如何将AI发现的结果列为正典。”

这是一种不错的“应对”。人工智能是边疆的探险者，人类感激地接受他们的精益证明，然后对其进行讨论，选择相关结果，将这些结果塑造成伟大者的一块小砖石代数大教堂.类似上述情况：AI会自行建造大教堂。

他们会比我们更优秀的建筑师。

“我们将成为人工智能数学的学生。”

这种做法一直有效，直到人工智能深入数学lib的演绎闭合，使得从初等数学到前沿的距离超过了任何人类一生中所能学到的知识，无论他们的关注多么狭窄。

“我们需要人类来理解人工智能发现的结果。”

我们不会！这误解了观众是谁。人工智能将进行前沿数学，后者将利用新数学进行前沿科学，最终，人工智能将利用新科学进行前沿工程。

没有人需要理解这些，那些让人类参与了解结果的公司，会被不了解的公司所取代。

结果是，我们将生活在一个被恶魔困扰的世界里，充满了奇妙的装置，这些装置的运作方式我们无法理解，基于我们无法理解的工程原理，采用了我们无法理解的形式主义。

“计算机在国际象棋方面已经超人了，但我们还在下棋。”

与大多数应对方式不同，我觉得这个很有趣。计算机是超人级的国际象棋手，但我们毫不在意，继续正常下棋。为什么数学要不同？

我认为主要原因是国际象棋是自成一体的：国际象棋的结果无法帮助我们理解行星的轨道或药物与蛋白质表面的结合。但数学，著名的是科学的伟大动力源，是理解世界的最佳语言和方法。

一台能够取代人类数学家，但更好、更快、更便宜的机器，在物质上是有用的;更好的国际象棋引擎则不然。

如果两台在国际象棋上超人般的计算机相互对弈，谁在乎呢？需求不大，因此没有竞争者。超人类数学家则不同。

“数学会改变，但数学家和数学爱好者仍会自行完成数学。”

我认为这忽视了数学嵌入社会背景的事实。举个例子：当人工智能会吞噬软件变得明显时，我的应对是：“我很乐意在职业生涯中成为代理的工程经理;在我休息时间，我还能写代码为了享受。”

我确实如此。但这种应对忽视了人工智能对写代码社会环境的影响：话语变得更糟，且极度反智;过去谈论类型系统和编译器的人们现在谈论“循环”和“约束”;你把一个手工项目放到GitHub上，结果得到的PR很糟糕;你打开一个看起来很有趣的项目链接，发现README是无法阅读的AI垃圾。

从长远来看，思考：会有人设计一种新的编程语言吗？这令人沮丧。顺便说一句，如果我设计一个新语言，会有人在意吗？如果我写了一个库，引入了一个优雅的新形式主义来解决某个问题，会有人使用它吗？

也就是说：没有人是孤岛。你可以自己做数学，但你会发现，仅凭内在动机能长期维持任何活动的人非常少。我们是社会性动物：我们关心自己有用、地位和世界上的结果。

结论

我觉得我应该以愉快的语气结束。那我试试。就我个人而言，我不认为技术是不可避免的。“不可避免”是行星轨道的专属词汇。人类行为的产物并非不可避免。

我们可以选择让自己变得过时，也可以选择不这样做。我们可以意识到，通用人工智能是一场魔鬼的交易：我们五月加速技术进步，我们五月提前解锁各种精彩的科技树节点，比如延长寿命;但从长远来看，人类充其量也不过是被更强大存在照料的宠物。

关于预测的说明

未来尚不确定，但我以上所有内容都已明确表述，以简化。如果我们认真对待AGI和ASI的可能性，如果AI能像过去~6年那样持续进步，我认为这是对未来发展的合理看法。

反对人工智能进步的最佳论点可能是“强化学习推广能力不强，我们在可验证的领域如形式化数学和编码取得了巨大进步，但在直观或不可形式化的领域，我们将看到较少的进步。”也许是真的。

但数十亿美元和数千名非常聪明的人——而且越来越多是非常聪明的模特——正被投入到这个问题上。这种应对能持续多久？