把AI的技术问题与资本主义问题分开看

本文由内森·E·桑德斯合著，最初发表于科技政策出版社.

人工智能代表了人类首次能够大规模地在身体之外进行认知工作。唯一可比拟的时刻是工业革命初期，当时像蒸汽机这样的新技术让我们能够大规模完成身体外的机械工作，实现了质的飞跃。

如果人工智能的认知能力融入我们的生活、企业和政府——这一过程可能需要数年甚至数十年——那么社会将像现代世界对前工业化农民一样陌生。

然而，美国人——以很大差距——说人工智能发展过快，将对社会产生负面影响。

这种技术革命与公众不信任的汇聚值得紧急讨论和恰当的框架。问题不是是否能以非剥削的方式开发人工智能，甚至不是我们是否能信任人工智能公司为公共利益行事。

问题在于，我们是否能认识到现有的社会和经济体系未能实现这些目标，以及我们是否能够及时采取行动，推动结构性变革。

今天的人工智能是陷入困境在几代人前发展起来的政治和经济系统中，这些系统从未设计来管理广泛的计算，更不用说自动化认知了。这些体系中的漏洞——以及它们容易出现的被剥削——是技术开发、部署和使用的主要影响因素。

在任何关于人工智能潜力的讨论中，重要的是要将技术与其所嵌入的社会政治体系区分开来。人工智能缺乏背景、混淆事实或上当愚蠢的把戏，这些都是技术问题。

由于像OpenAI和Anthropic这样的大型开发商优先解决这些问题，人工智能现在可以更容易访问网页或电子邮件等资源，更有纪律地使用这些资源，并且更能守在自己的限制范围内。

然而，人工智能开发者似乎并未优先考虑其他技术问题。主要的人工智能模型仍然表现得更为出色谄媚者而不是人类，即使那些不真实或不符合他们利益的话，也会告诉别人他们想听的话。

流行的人工智能模型往往会回答问题自信地即使他们缺乏培训、知识或证据来支持他们的说法。在这两种情况下，AI开发者都选择训练能够以奉承和能力表现取悦用户的模型，而不是限制用户为用户和社会的最大利益而行动。

相比之下，确保人工智能模型广泛惠及人们，公平分配能源成本，最小化环境影响，不窃取内容和出版商收入，这些都是资本主义体系中激励的问题。

人们很容易将技术问题与资本主义问题混为一谈。早在2021年，科幻作家兼人工智能评论员Ted Chiang就在其中说“大多数对人工智能的恐惧最好理解为对资本主义的恐惧。”不是技术问题本身;关键是谁控制它，以及它如何被用来对付我们。

想象一下医生的人工智能助手。我们可以想象它会以两种方式影响整个行业。人工智能可以给医生更多时间去完成他们的人类部分：花更多时间陪伴患者，更深入倾听他们的需求，更全面地解释问题。

或者医疗机构的管理者可以给那位医生五倍的患者量——然后解雇另外四名。结果不是技术问题。这是市场激励的问题。

这两者当然是相关的。资本主义引导技术，技术引导市场。但将两者分开看待有助于我们理解，作为社会，我们面临着在技术和社会政治两方面独立选择的局面，而这些选择不必并存。

例如，考虑人工智能的成本。美国领先的实验室全部投资者认为他们的前沿模型非常昂贵且耗能。提升能源效率存在重大技术挑战，但社会政治问题更为重要。

这是一种企业决策，在资本主义市场激励下不断追求新模式，逐步推动前沿——付出巨大的资本成本——并且似乎无处不在地使用这些模式。

人工智能技术并未要求模型必须不断、以最大规模重新训练。或者说，他们必须在每一次网络搜索、每次与手机互动、每次你经过监控摄像头时都运行。

在不同的政治和经济体系中，中国开发商正在生产——然后给予 远离——更小，更高效，更多价格实惠模特。而美国政府则试图限制中国获得最先进芯片的渠道，中国是投注这激励他们的科技巨头用更多普通硬件创建更精简、更开放的模型——这些模型可以用老芯片训练，甚至能在上运行个人计算机——将有助于实现广泛使用，甚至可能获得中国民族影响力。

还有其他人工智能发展路径，这些路径既不服务于私人资本利得，也不是为了威权政权，而是民主党公共利益.最好的例子来自瑞士，公共机构——研究资助机构、大学、超级计算中心——合作开发了一个名为阿佩图斯.它完全基于经过验证的数据（非被盗）授权用于人工智能，基于现有的公共计算基础设施，并利用可再生水电进行训练。

其开发者被激励去生产公共产品，而不是实现私人利润。

将技术问题与社会政治问题混淆是危险的。受欢迎的提案包括停顿人工智能研究，暂停关于数据中心开发，或将前沿模型置于联邦政府管辖放映这些都被框架为解决人工智能技术发展中的问题，却忽视了主导人工智能的更大社会问题。

中国的成功与政府合作——认可开放权重前沿模型的发展说明了将AI技术保密为国家机密，或承诺缩减部署的徒劳无功。

人工智能已经在各种任务中真正有用。如果我们选择解决其社会政治问题，它可以成为公共利益的工具。我们的目标不应是放慢其改进速度或部署规模，而是引导其远离巩固权力并致力于公众利益。

我们可以建造可持续AI，最小化环境以及能源撞击。我们可以 公平地 分发物质的收益由此产生。

负责任地整合像人工智能这样具有颠覆性的技术需要结构性改革，我们应当将人工智能的社会和技术层面脱钩，以设计这些改革。包括科技巨头在内的公司应被迫承担其开发过程中的能源和环境成本。

利润应被适当征税并重新分配。反垄断法应当严格执行。公司应对其大股东以外的利益相关者承担受托责任。这些急需的改革是响应灵敏人工智能加剧的资本主义问题，即使这些问题并非针对该技术本身。