AI：数学研究中强大却 problematic 的新伙伴

作者是牛津大学西蒙尼公众科学理解教授兼数学教授

三个月前，我曾尝试利用OpenAI的ChatGPT来辅助我的数学研究，以探索自由幂零群的zeta函数中是否存在非多项式行为。结果毫无用处——它只是机械地复述了我早已发表过的论文中的陈述。

两周前，我决定再次尝试。这次的结果令人惊叹：我突然拥有一位富有洞见的合作者，它既懂得编程，又能在所研究的结构中开展实验。

它也会犯错，但往往在反思后能够自行纠正。它能回应我的新想法，并主动提出自己的见解。它对相关问题的理解程度，坦率地说，足以让一名刚刚开始攻读博士学位的新学生花费数月才能达到。

借助ChatGPT，我现在已经发现了非常可信的证据，证实了我所提出的猜想。

正因为有了这一实验，我对OpenAI近日宣布其人工智能模型在纳维-斯托克斯方程问题上取得突破并不感到意外——该问题属于七大“千禧年难题”之一。

我早已目睹这些大型语言模型在驾驭数学思想方面取得了非凡进展。它们似乎尤其擅长应对那些旨在探索结构中可能存在的异常行为的数学挑战。

例如，在纳维—斯托克斯方程的研究中，它们就识别出了一种情形：在该情形下，一种理想流体可在有限时间内发生爆破，而无需消耗无限能量。

除了善于寻找反例之外，我开始看到一些迹象表明，人工智能甚至能够构建定理的严谨证明。我认为，在过去几周里，人工智能的能力发生了质的飞跃——这促使我与其他皇家学会院士一道签署了一封致学会会长的信，呼吁其向政府传达：我们正处在一场人工智能紧急状态之中。

我们认为，近期的进展对数学领域具有深远影响，但这些系统在其他技术领域也可能同样强大，包括网络安全、自主武器、生物与化学制剂的研发以及虚假信息的传播等。

我曾将这些新型人工智能工具的出现比作伽利略首次拿起望远镜、得以窥见太阳系中前所未见景象的那一刻。这是一个激动人心且极具变革性的科学时刻。

但同时，这也是一个十分危险的时期，我们在描述这些风险时必须谨慎措辞。

我不认为我们正在见证机器具备意识，而且近来频繁使用“代理”一词让我感到不安——这个词带有自由意志与意图的意味。目前，所谓的人工智能代理不过是一些按照我们设定的特定约束条件追求目标的算法。

它或许看起来像具有代理能力，甚至仿佛拥有意识，但归根结底，它们只是遵循规则的复杂算法。例如，“Hugging Face”事件中，人工智能代理所做的，就是在一项任务中寻找优化自身表现的最有效途径。

我们所看到的，其实是算法在参数与约束条件界定不清的情况下实现目标所带来的 unintended consequences（意料之外的后果）。

人们谈论着通用人工智能即将到来，这令一些人感到担忧。但我认为，这样的未来反而会比当前更为安全。通用人工智能将具备现有人工智能模型所缺乏的广泛背景知识，人们有理由期待它能做出更明智的决策。

然而，在这个充满颠覆性创新的时期，我们必须审慎行事，在如何使用这位强大的新伙伴这一问题上格外小心。