反驳 Anthropic：AI 并非天生集中权力

Anthropic最近在硅谷成了坏男孩（负面），很大程度上是因为公司对开源模型没有足够的热情，写出一封有说服力的信，说明不想禁止它们。

值得称赞的是，他们确实努力了！他们写了关于此主题的信件!不幸的是，我觉得这反而让情况更糟，因为在那封信中，Anthropic提到了中国或中共大约12次，然后又有点争论说他们确实如此毕竟，我还是想禁止开源模型。

这封信大约激怒了他HackerNews上的所有评论.我认为普通《HN》评论者最讨厌的两件事是：1）虚伪，2）被轻视的感觉。对Anthropic来说不幸的是，“我们不想把技术交给坏人”和“我们接受技术被用于中东侵略战争”之间的矛盾几乎难以忽视。

几天前，Dario（Anthropic的CEO）在推特上发布了后续报道.

《12克碳》是一份由读者支持的出版物。想接收新文章并支持我的工作，请考虑成为免费或付费订阅者。

我想到现在为止，我对推特的看法大多已经表达了。如果你是新来的，我觉得这里是个可怕的地方，就像魂器或至尊魔戒一样邪恶，因为它能扭曲和摧毁即使是最优秀的人，我真心希望科技界能迅速振作起来，转向另一个平台。

除此之外还有其他因素（以及 在那里 是 许多 其他 事情）我总是对推特上普通讨论中缺乏真正思考感到印象深刻。我想这是理所当然的，这也是平台自带的。

鸟类应用诞生于“140字符”的火焰中，虽然你可以给猪涂口红，还能写长篇文章，但真实自我的痕迹存在于虚假的自我中。但说真的，即使知道这些，我还是不断惊讶于自我膨胀的尖叫声竟然会变得多么响亮。

（另外，经纪人最终会把这件事发到推特上，我相信如果帖子表现好，肯定会引起合理且比例合理的反响）

总之，达里奥的信息里有一句话引起了我的注意，但我觉得大部分时间都没被提及。达里奥写道：

总体来说，我的看法是结构上这是一种倾向于集中权力的技术，原因与监管无关。

这基本上只是陈述，根据我在推特上极其有限的时间，之后再也没有被提及过。但这其实是一个非常庞大的主张，不是吗！

首先，值得思考技术结构性政治这一理念的背景概念。这是一个非常不直观的想法。大多数人认为技术只是工具，就像铲子或泥铲，问工具的政治性是不连贯的。

接下来我们要做什么，问空中政治吗？全是无生命的！工具有政治色彩的程度，也被归入使用者的政治性。你在关于枪支的讨论中经常看到这种情况。

枪支在警察手中保护老妇人免受抢劫时是好事，但枪在校园枪手手中是坏事，类似这种情况。

错误在于只关注一个对象，一个事物的实例，而不是该事物的类别。任何单个枪械实际上都是无生命的物体。它不会进行竞选、投票，也不会在感恩节晚宴上发表极其尴尬的言论。

但是枪械总体绝对是政治化的。是的，显然有枪支拥有者在这件事上有很大的身份认同，还有一些非常有权势的枪支游说者，评论员们也喜欢在选举期间频繁提起这个话题。

当然，所有这些人都会参与竞选和投票。但这并不是我的真正意思。如果你再拉远一点，就会发现存在枪支意味着社会的许多面向：更多人可以利用暴力，国家将被迫变得强大/更具侵略性/更具攻击性以维持控制，我们愿意接受升级冲突以换取个人选择的现实。

基于以上所有情况，我认为枪械在结构上是去中心化科技。

枪支显然是个热门话题，但这种逻辑同样适用于那些日常看似中立的事情。例如，长岛及周边许多公园大道桥梁建得非常低，导致公交车无法到达海滩和公园。

表面上看，这似乎是一个不幸的巧合。但如果你稍微查查一下，你会发现负责建造桥梁的人，罗伯特·摩西他是种族主义者，他不希望依赖公共交通的主要少数族裔内城家庭去市公园。

如果我指着任何一座长岛桥说“那座桥是种族主义”，你肯定会觉得我疯了。毕竟，它是一座桥。它是由石头、沥青和金属组成的集合体，完全没有任何意图或意识。

我们到底在说什么？然而，这座桥是由一个种族主义者出于种族主义原因建造的，直到今天，这座桥仍阻止住在市中心的人们进入海滩和公园。

我读过关于技术及其与世界关系最具影响力的论文之一是兰登·温纳1980年的论文，“”神器有政治意义吗？“这篇论文无情地撕裂了这样一种观点：技术，尤其是所谓的中立技术，没有政治影响。一旦你看到了，你就会到处看到。长椅上有隔板，这样人们就不能躺在上面。围绕汽车设计城市，这使得拥有汽车成为必须的条件，这又促使更多人成为汽车所有者，从而使他们更有可能以有利于车主的方式投票。坡道、栏杆及其他形式的美国残疾人法案（ADA）便利措施，明确表达了我们社会价值观的政治声明。诸如此类。我们利用技术来执行我们的政治规范，并将政治规范嵌入技术中，而技术则循环利用我们的政治规范。

回到达里奥。

总体来说，我的看法是结构上这是一种倾向于集中权力的技术，原因与监管无关

这些原因是什么？

我能想出几个。

• 创建前沿AI模型需要大量的计算和资本支出。这又需要土地和能源等东西，但更重要的是需要组织结构能够利用所有这些因素。这很难做到，所以人工智能正在集中化。
• 本地运行模型也常常很困难。大多数情况下，AI的使用是通过某种推理服务器进行的。因此，运行推理服务器的组织能够全面掌握用户使用 AI 所做的一切。这种可见性自然促进了监控，而监控则是集中化的。
• AI模型的设计选择本质上是基于一小群人，然后在许多地方重复使用。这意味着一小部分人在工具的后续使用中拥有过大的发言权。所以人工智能正在集中化。从这个角度看，社交媒体正在集中化，Salesforce和AWS也是如此。实际上，大多数大众市场的软件都是如此。
• 全球范围内，AI代币是一种稀缺资源。许多白领环境中AI的月度成本接近每人每年数百美元。这对许多发展中国家的人来说是不可能承担的成本。假设人工智能能够实质性地加速公司的产出，那些负担不起AI的公司将被那些能用AI的公司吃掉。这整合了市场。所以人工智能正在集中化。

但我觉得达里奥忽略了人工智能的主要方面去中心化现在已经无法区分网络上的好行为和坏行为。

验证码用来区分人类和机器人。多亏了AI工具，地球上没有任何验证码能做到这一点。任何足够难阻挡AI的机制，必然也会阻挡很多人。

很快情况将相反——过于困难的事物只会阻碍人类。即使你能找到某种“是AI吗”的信号，人类也很容易越过验证码，然后让AI接手。所以版主和管理员无法区分合法（人类）使用和机器人垃圾信息。

用户们也乐于利用共享资源，机器人抓取器变得如此猖獗，以至于许多 网站 拥有 屈服了 在下面 该 完全 自动化 猛攻.

Anthropic 可能能够构建分类器，防止模型谈论生物恐怖主义，这很好。但他们会的绝不能够阻止陌生人在Reddit子版块乱发帖子。即使Anthropic想做到，也不可能做出能捕捉这种行为的分类器，而他们几乎肯定不会，因为这种东西是他们赚钱的方式。

最终效果是毁掉那些社区/让公开托管这些资源变得无利可图。

去中心化技术不一定是坏事，集中化技术也不一定是好事。总有权衡。所以我不希望别人觉得我是在某种方式表态。但在考虑人工智能政策时，我们需要考虑人工智能实际的使用方式，而在我看来，达里奥并没有真正理解（或者故意不参与）人工智能如何掏空东西。

部分原因是结构性问题。Anthropic 以非常理想化的视角进入这个领域，认为“拥有”人工智能的组织掌握着未来的掌控权，技术的主人可以随意授予或拒绝访问权限。

他们必须有这种视角，因为他们的生意和资金获取依赖于这种世界模型的真实性，而说服别人相信你自己不相信的事情非常困难。注意，关于开放重量的担忧总是被这样包装成砝码的所有权是导致不良行为的根源。

但这种世界观存在两个巨大问题。首先，市场推动Anthropic和其他公司尽可能让代币更广泛地流通。阻止人们使用人工智能？Anthropic甚至无法停止补贴其最昂贵的车型！

其次，大多数人们担心的坏事，今天已经可以通过克劳德实现了！

这些因素合起来，任何关于开放式哑铃的抱怨都显得空洞无稽。

从我的角度看，人工智能似乎是一个巨大的去中心化技术，将大量权力交到个人手中，牺牲了机构。因此，Anthropic等人担心的安全问题——比如生物武器——感觉与人们实际看到的问题完全脱节。

我认为普通人更希望有更好的工具来检测和防止机器人垃圾信息，或者有更多明确划分“用户”是否真正是人工智能的基础设施，甚至对推理提供者实施封禁和法律责任。

大致没人关心开放模型，因为只有极少数人口会与它们互动，更少的人关心“谁拥有这些代币”。你不需要去中国实验室生成机器人垃圾邮件，Claude今天会很乐意帮你做。

通过将所有监管讨论都围绕开放模型展开，Anthropic显得是一家利用其权力削弱竞争对手的公司，而非认真应对人工智能影响的公司。除非这种情况改变——除非Anthropic不再仅仅从模型提供者的视角思考问题——否则人工智能界，尤其是前沿实验室，都无法改变公众对这项技术本质的压倒性负面看法。

《12克碳》是一份由读者支持的出版物。想接收新文章并支持我的工作，请考虑成为免费或付费订阅者。

有人认为石头、沥青和金属的某些组合是但大多数时候，当他们以数据中心而非桥梁的形式存在时，才会有意识。

我认为2010年代到2020年代政治话语最大的失败之一，就是未能传达这类内容。活动家们会争辩说“高速公路是邪恶的！”，即使他们说得对，也会听起来很荒谬。

当然，要把一个非常复杂、细致的话题简化成大众观众总是很难，而且我也不确定有多少人真的努力过，因为当时对别人大喊大叫其实容易多了。

虽然有些开放集体训练了极大的模型，比如Eleuther，但它们实际上也有相当清晰的社会结构。有人拥有计算密钥。而且我认为很久没有哪个开放集体成功训练出真正前沿的模式。

虽然有方法可以重写这些决策，有时成本低廉，比如通过各种方式微调空权重。

很多人甚至没意识到这就是正在发生的事情！

这可能会导致更多的付费墙/围墙，这同样是一个集中化的结果。但我脑海中的形象有点像“疯狂的麦克斯”——你有零星的结构和庞大的低质量机器人生态系统。