超级智能之三：中美AI谈判的思考框架

桌面上，中美在谈AI规则；桌面下，是“不只有中美”的另一个世界——黑客、恐怖组织、犯罪网络、流氓国家，正在拿走不同当量的“数字原子弹”

中国领导人即将访美，这次会谈比以往多了一个话题：要谈AI。

这可能是最重要的议题之一。

Trump总统对这个问题的态度很明确：

美国不能因为AI安全而放慢脚步。美国绝不能慢下来，谁赢了AI谁就赢了。最近他甚至把AI毁灭人类的安全警告称为“骗局（hoax）”。

这个逻辑很直观：

美国慢，中国就赶上来了；美国输就是中国赢。

这是一个典型的零和博弈。

问题是：

这个模型简单到了错的地步。

不是因为中美之间没有竞争。当然有，而且会非常激烈。

也不是因为中美应该停止竞争，或者一起把AI慢下来。恰恰相反。

本文提出的整个思考框架，都建立在一个现实的前提上：美国不会慢下来，中国也不会慢下来。

双方都会继续争芯片、争模型、争人才、争产业、争军事优势。

所以真正的问题不是中美能不能一起慢下来，而是：

在双方都不会慢下来的情况下，怎样避免一起掉进坑里？

零和模型错在两个更基本的地方：

第一，AI的三种重大风险中，有两种风险中美有共同利益。

第二，这场游戏根本不只有中美两个玩家。

不把这两个问题想清楚，中美甚至不知道应该谈什么。

一、零和博弈的第一个错误：有些AI风险根本不是零和的

上一篇文章（超级智能之二：AI的安全困境）把AI的重大风险分成三类：

机器觉醒。坏人利用。无心铸错。

先看机器觉醒。

如果未来真的出现有自我意识、开始攻击人类的AI，它不会在行动以前先检查护照。它不会因为是美国公司训练出来的，就只攻击中国；也不会因为运行在中国的数据中心，就保护中国人。

到了那个时候：

遇祖灭祖，见佛杀佛。

离AI最近的两个国家，甚至可能最先受到伤害。所以在这个问题上，中美根本不是零和关系。

此刻我们不是中国人，也不是美国人。我们首先是人类。

再看第三种风险：无心铸错。

这可能比机器觉醒更加迫在眉睫。未来越来越多的网络防御、情报分析、基础设施控制甚至军事决策都会有AI agents参与。

假设有一天，一个美国AI agent攻击了中国电网。美国政府说：不是我们下的命令。中国相信吗？反过来也一样。

一个模型的错误，一个agent的越权，一次错误归因，都可能被另一方理解成有意攻击。而AI的速度远远超过外交的速度。机器几秒钟就可以完成攻击，政治领导人却可能需要几小时甚至几天才能弄清楚发生了什么。

这里最大的危险不是谁打赢谁，而是：

没人想打，却打起来了。

这同样不是零和博弈，还是大家一起输。

竞争可以继续，护栏必须建立。

二、零和博弈的第二个错误：世界上不只有中美

零和框架还有一个更加根本的问题：它假设牌桌上只有两个玩家。其实远远不是。

要理解这一点，需要区分两种人：

穿鞋的人，和光脚的人。

这里的“鞋”不是财富，也不是军力。它指的是：你有多少东西建立在数字基础设施之上，又有多少东西害怕被别人摧毁。

金融、电网、通信、医院、航空、港口、供应链、数据中心、政府系统……一个社会越现代化、越数字化，它穿的鞋就越贵。

美国当然穿着最贵的鞋。中国也是。

这就产生了一种威慑。你可以攻击我的银行，但你的银行也暴露在那里；你可以攻击我的通信系统，但你的通信系统同样依赖互联网。

两个穿鞋的人打架，动手以前都会先看看自己那双金贵的鞋。

这和核威慑有某种相似之处。但AI正在创造一个核时代从来没有真正面对过的问题：

如果光脚的人也有了原子弹呢？

三、不同当量的“数字原子弹”

核军控最重要的任务之一，就是防止核扩散。幸运的是，核武器很难扩散。制造原子弹需要核材料、离心机、工厂、科学家和庞大的工业体系。

AI完全不同。

AI是软件。

它可以复制，可以下载，可以藏在任何一台服务器里，可以在世界另一端运行。一旦扩散，很难召回。

而这种扩散不是未来时。它已经发生了。强大的 AI 能力已经进入千千万万人的电脑。

我们应该假设：

强大的开放模型已经被“光脚者”下载，并正在他们手中把玩，试炼。

他们利用这些能力发动下一次攻击，

不是if，而是when。

核时代最大的恐惧，是核武器扩散到越来越多的国家。AI 时代更加麻烦：

仿佛世界上大大小小的国家、武装组织、恐怖组织、犯罪集团，甚至个人，都开始拥有不同当量的“数字原子弹”。

这些就是“光脚者”。他们和中美最大的区别，不一定是攻击能力，而是他们没有多少东西可以被报复。

你怎么威慑一个没有银行系统的人？怎么报复一个没有电网的人？怎么让一个依靠混乱生存的人害怕混乱？

甚至可能有人发动攻击的目的，本来就是让世界陷入混乱。这时候，传统威慑开始失效。

四、零和思维最大的漏洞

现在再回头看“美国不能慢，中国赢了美国就输了”这个逻辑，问题就更加清楚了。

假设美国的AI能力是100，中国是80。按照零和思维，美国最重要的任务就是保持这20%的领先。

但是，如果为了争夺这20%，双方把危险能力从100:80推到1000:800，同时这些能力迅速扩散到全世界，美国真的更安全吗？

未必。

“美国领先中国”和“美国更加安全”，根本不是同一件事。

甚至可能恰恰相反。美国是世界上数字化程度最高的国家之一，它有最多值得保护的东西。

所以对于美国来说，真正危险的不一定只是另一个穿鞋者比自己跑快一步。更危险的可能是：

两个穿鞋者为了跑赢对方，不断制造越来越强大的武器；与此同时，越来越多光脚的人把这些武器捡了起来。

真正的博弈不是只有中美两个玩家，而是：

除了中美之外，还有千千万万个玩家。

所以问题已经不只是中美谁跑得更快，而是：

如何在竞争中建立一套双方都需要的安全规则。

五、所以，中美到底应该谈什么？

一旦摆脱“所有AI问题都是中美零和竞争”的思维，谈判议程反而清楚了。

对于机器觉醒：

共同建立前沿模型危险能力测试、失控预警和紧急处置机制。

对于无心铸错：

建立重大AI事故通报机制、AI hotline和危机沟通程序。

特别应该有一条原则：

在不知道是谁开的第一枪以前，不要让AI自动开第二枪。

对于第三方嫁祸：

共同研究攻击归因、证据交换和重大事件验证机制。

因为一个“光脚者”完全可能劫持美国服务器攻击中国，也可能利用中国的计算机攻击美国。

他们真正攻击的不是美国，也不是中国。他们攻击的是中美之间的信任。

只要两个大国开始互相报复，他们就赢了。

然后才是最困难的问题：中美如何防范彼此利用 AI。

这个问题当然要谈。但不能让这个最难的问题，吞掉前面那些双方明明拥有共同利益的问题。

六、AI扩散应该成为共同议题

这就涉及开源。

开源AI有巨大的价值。它促进创新，打破垄断，让更多人分享技术进步。

但安全问题不会因为一个模型叫作open source就消失。真正的问题不是开源还是闭源，而是：

这个模型落到任何人手里以后，究竟能够干什么？

如果一个模型能够自主寻找漏洞、编写攻击代码、操纵计算机，并组织大量agents协同行动，那么它就应该接受与这种能力相称的安全标准。

安全标准应该跟着能力走，而不是跟着商业模式走。

因为模型一旦发布，就无法召回。

核军控可以查核材料，可以数导弹，可以监测核试验。AI怎么办？代码可能已经复制了一万份、一百万份，服务器可能在任何地方。

所以简单照搬核军控远远不够。

传统的相互确保摧毁——MAD——可以威慑一个有莫斯科的苏联，也可以威慑一个有纽约的美国。

它怎么威慑一个没有城市、没有银行、没有电网，甚至不知道躲在哪里的人？

这可能才是AI时代国际安全最困难的问题，也是两个最大的“穿鞋者”最应该共同研究的问题。

七、中国也需要把自己的原则讲清楚

美国的问题比较容易看见，因为Trump总统已经把自己的逻辑公开讲了出来。

中国的情况不同。

中国并不是没有AI安全政策。中国已经提出AI应该安全、可控，强调人类控制，也建立了一系列风险管理和安全治理制度。

但这些原则更多回答的是：

AI在国内应该怎样管理？

对于正在发生的国际AI竞争，还有另一组问题需要回答：

中国如何看待中美AI军备竞赛？

哪些AI能力绝不能交给自主系统？

军事和网络系统中，哪些决定必须由人拍板？

发生来源不明的重大AI攻击以后，中国如何判断是谁干的？

中国愿不愿意建立AI hotline、事故通报和危机验证机制？

这些问题，中国应该更加清楚地告诉美国，也告诉世界。

这不是要求中国公开军事机密，而是需要一定程度的：

战略透明。

因为大国竞争中有一条危险的规律：

你不告诉别人自己准备做什么，别人就会猜。

而对方一旦开始猜，通常不会按照最好的情况猜。

它会按照最坏的情况准备。

双方都认为自己是在防御，双方看到的对方却都在进攻。这就是经典的安全困境。

八、两个最大的“穿鞋者”

美国需要走出简单的零和思维。

中国需要增加战略透明度。

这不是要求任何一方牺牲自己的国家利益，而是为了保护双方自己的国家利益。

中美当然是竞争者。

但不是所有问题上的敌人。

在机器觉醒和无心铸错的问题上，双方有共同利益。

而且，这个世界远远不只有中美两个玩家。

美国领先中国，

不等于美国安全。

中国保持战略模糊，

也不等于中国安全。

两个世界上最大的AI国家，也是两个世界上最大的“穿鞋者”。

与此同时，越来越多的“光脚者”，正在获得不同当量的“数字原子弹”。

所以，中美AI谈判真正需要回答的，不是谁先踩刹车，而是：

在竞争不可避免的情况下，如何防止机器失控，防止意外变成战争，防止第三方挑起冲突，也防止越来越多的“数字原子弹”落到那些根本不怕报复的人手里。

这才应该成为中美AI谈判的思考框架。（作者｜王维嘉，巴伦中文网专栏作者，硅谷投资人、斯坦福博士、《暗知识》作者；编辑｜王眉）