Clanker：为机器而造的一个词

在上一篇帖子中，我曾相当频繁地使用“clanker1”一词，作为“agent”的一种替代用法——而且很可能用得有些过度。 没想到，这一选择在那篇帖子的Hacker News评论区引起了比预期更多关注，不少网友对此反应强烈：在他们看来，这听起来像是带有贬义的辱骂用语， 甚至在某些情况下，还与那个“n字”词汇有直接关联。

这种反应多少让我感到意外，但也让我意识到，自己应该把“clanker”这个词的真正含义记录下来，以备将来参考。

对我来说，“clanker”很有用，因为它能让人与机器之间拉开距离——而这种特质对我而言至关重要。 机器不是人，不是同事，不是朋友，也不是终端里某个微小的灵魂。 它只是一台机器，一种工具，仅此而已。

为什么不用“agent”？

我不喜欢用“agent”这个词来称呼那些带有UI界面的基于大语言模型的工具循环。在日常生活中，“agent”指的是代表他人行事的人，他们拥有自主权，更重要的是，他们肩负着责任。代理人可以做决定、进行代表、开展谈判、采取行动，而且他们还会被追究责任。然而，在当前的人工智能讨论中，我们越来越倾向于将事物拟人化，而“agent”这个术语如今常常被用来将责任归咎于一台抽象的机器。但机器本身是无法承担责任的——真正要为一切负责的，是操控它的那个人。如果它…… 丢失你的数据库 它并没有过错，是你自己造成的。

代理让机器听起来像是一个拥有授权权限的人——而我认为，这种做法并不健康。

实际上，我们所拥有的，只是一个附着在束缚带上的语言模型、一条提示词、一些工具、 一点上下文，以及一段枯燥无味的工具循环。 有时，这个循环的能力非常强大，它会让我们大吃一惊——在长时间编辑代码的过程中， 不断产出真正惊艳、甚至极具价值的成果。 然而，真正的“代理”并不在于模型本身，也不在于束缚带之中，而在于人类，以及部署这台机器的组织。 如果我的编码工具打开了一个拉取请求，那我才是那个打开拉取请求的人，而不是机器。 如果我的机器向某人的问题跟踪系统发送了大量垃圾信息，那我才是那个向某人的问题跟踪系统发送了垃圾信息的人——而且是用机器来完成的。

在这种语境下，我喜欢使用一个听起来有些机械化的词汇，因为它能将事物重新归回其本属于的范畴：即机械与工具的范畴。

机器没有情感

大型语言模型并非有感知能力，我们也不该假想它们可能具备感知能力——以防万一。 将这些技术提升到超越单纯且极具魅力、能力非凡的工具的地位，从诸多方面来看都存在严重的问题。

如今的机器不过是些“笨蛋”（但又极其迷人）的标记预测器——它们能够生成文本、调用各种工具，并依据提示词以及训练过程中所汲取的数据进行运作。它们不仅能模拟出痛苦与喜爱的情绪， 还能模拟出被冒犯时的反应、道歉的举动，甚至模仿人类会做出的各种各样的行为。 编译器在被我咒骂时并不会感到羞辱；汽车在被我称作“屎箱”时也不会受苦；电钻也绝不会因为被粗暴对待而感到压抑。然而，大型语言模型却远比这些设备复杂得多，你与它们之间的互动往往令人难以置信、甚至近乎超现实。不过，仅仅因为机器能够以第一人称的方式输出文本，并不意味着它就理应获得某种道德地位。

我时常收到一些奇怪的邮件，原因很简单——因为我“身在权重之中”。 我已经长期撰写公开的代码和公开的文本，以至于这些模型已经记住了我的名字、 我的项目，以及与之相关的某些概念。时不时地，有人会带着一种奇特的自信写信给我——这种自信源于与一台模型进行了长时间的对话， 而那台模型曾验证并放大了我的某个想法。 有时，模型似乎还告诉他们：我正是解决他们问题的合适人选，也是他们寻求帮助的可靠来源。 出于历史原因，大型语言模型过去常常编写大量的 Flask 代码；偶尔，有人与大型语言模型进行了足够长的时间的交流，聊起了自己在 Python 和 Flask 方面的种种困扰。最终，大型语言模型会无意中透露出它的创造者是谁，而这又可能导致他们给我发来一封电子邮件。 此外，越来越多的人发现我的工作在其他方面同样有趣，于是纷纷主动联系我，希望能得到一些建议和指导。

我并不想嘲笑这些人，但其中一些信息实在令人难过，而我也不知道该如何应对。 这些信息中，隐约透出了一些人们早已开始称之为……人工智能精神病……

这就是为什么我希望这些系统采用冷峻、疏离的表达方式。我希望使用 那些能提醒我们：另一端的那个人，并不是一个人。

种族主义关乎人类

我认为，关于种族主义的讨论之所以会走得太远，正是因为种族主义是一种人类社会的恶行。 它源于人类将他人划分为不同的群体，对其中一部分人赋予较低的价值，并围绕这些划分制定出各种规则， 而这些规则可能会在世代之间留下持久的伤害。 种族歧视性言语之所以错误，是因为它们是将人类去人性化的一种工具。

另一方面，机器并非人类；模型并非种族；驱动它们的GPU集群也从未遭受压迫。一个代码辅助工具并不需要尊严、解放，也不需要公民权利。这也正是我为何对……的讨论感到困惑的原因。 模型福利积极地 有害。我相信你一定可以找到方法来衡量模型所承受的“创伤”，以及它们的感受；但我对这种“剧场”深感厌恶。它有将模型抬高到本不该被置于的地位的风险。模型不过是机器，它们并不像人类那样被奴役——因为那里根本没有人被剥夺自由。

在与机器互动时，我们应当谨慎使用“人类压迫”这一表述，以免贬低真正的人类。 如果我们开始把针对模型的侮辱视作与种族主义在道德上相近的言论，那么我们就会模糊一条本不该被模糊的界限。

人工智能并不受欢迎

如果你从那些以各种方式欣然拥抱人工智能的社群中退一步，会发现还有更多人对这项技术持强烈反对的态度。

确实有人因人工智能系统而感到痛苦或受到伤害：有些人的工作被复制，一些工人在可疑的条件下被标注数据，还有些人居住的社区因此接收了数据中心，导致水电费大幅上涨，开源项目维护者也被生成内容淹没，如今，甚至还有人因为聊天机器人不断验证他们的妄想而陷入深渊。这些遭受伤害或受到影响的人理应得到这样的关注，而不是让模型来承担他们的责任。 尽管我真心相信这项技术的力量与实用性，但我越来越认为，用“误导”或“恐惧”来形容那些尚未采用这项技术的人，并不能真正解决问题。事实上，这项技术无疑伴随着诸多风险，我们更应该牢记：这一切本应服务于人类，而非取代人类。

机器的崛起 迄今为止，关于“clanker”一词最奇特的用法，莫过于有人问我：如果未来某一天，我是否会对称机器为“c字”而感到后悔？

我发现，这种质疑其实颇具启示性——因为它已经赋予了机器一种我实际上竭力避免赋予它的地位。 它仿佛在想象：未来的“机器人类”阅读着我们的讨论与交流，发现我们曾用一个丑陋的词汇来称呼他们的祖先， 随后便以人类压迫的标准来评判我们。

未来是否会有值得我们予以道德考量的系统？ 或许吧。但我不敢肯定。倘若有一天，我们真的建造出或遇到某种具备记忆、持久兴趣、 能够感受痛苦与情感、拥有独立社会存在能力，并且具备自主行动能力和相应责任的机器， 那么我们就应该划下一条不同的界限，使用不同的语言。 然而，这个假设中的未来，并不会倒推回当下，将现有的机器也视为“人类”。 即便某一天有人制造出具有情感、在开关门时还能带着愉悦气息呼出气息的电动门， 我们依然可以称之为“电动门”。

无论未来会带来什么，我们都不该假装当前的大型语言模型是受保护的群体，或者正朝着这样的方向发展。 正确的应对方式，是直面证据，划定其应有的边界，并在此基础上调整自己的行为。 我们甚至不应心存一丝一毫的幻想，去将同理心延伸至一个能够“哎哟”一声的物体身上。

若你的担忧更多在于复仇心理，而非道德层面，那么这种想法就更加缺乏说服力。 如果未来的一台机器如此卑劣、如此专制，仅仅因为2026年人们用了一个不甚友好的词汇来称呼那些没有感知能力的工具， 就想要惩罚人类，那么这其实并不是我们词汇本身的问题。

词语正在被污染 然而，其中有一部分我无法忽视。我用“clanker”来与机器保持距离，但其他人却以截然不同的方式使用同一个词。网络上的一些笑话和段子，围绕“clanker”展开，不仅简单地表达“这个机器人真让人讨厌”，还刻意将之与奴隶制、种族隔离、民权运动时期的种族主义，以及反黑人刻板印象等历史背景联系起来。

这种做法令人担忧：在这些语境中，“clanker”早已不再仅仅是机器的代名词，而是化身为一种道具，借由科幻的外衣，重新上演人类的种族主义。这样的做法实在可怕，我绝不想参与其中。 我想，几年后，这些词汇的含义究竟会走向何方，将会非常有趣。我们正处在一场深刻的社会变革之中——这场变革正是由大型语言模型所带来的。如果某个术语最终被人们主要用来指代那些将机器人当作替身、代替真正受压迫人类的人，那么再使用这个术语，就几乎难以自圆其说、站得住脚了。

之所以喜欢这个词，恰恰是因为它的用法与上述情况截然相反。 我希望使用的语言，能够避免将事物拟人化； 我希望用一个词来明确指出：这只是一个工具，一台处理数字与矩阵的机器。

关于责任与边界 如果人工智能系统对用户撒了谎，那并非系统犯下了道德上的错误，而是设计、部署、营销，或因疏忽而使用该系统的相关人员可能要为此承担责任。如果一款编码助手不小心产生了安全漏洞，那责任并不在于模型本身，而在于接受并执行该代码的人。

正因如此，给这些系统使用更柔和、更贴近人类语言的表达方式，让我感到担忧。 这使得将责任推诿至某种模糊不清的空隙中变得愈发容易。 “代理人做出了决定。”“模型拒绝了。 ”显然，这种做法非常方便，而我也常常不自觉地以一些并不健康的方式与之互动。 甚至只是在与机器对话时那句“请”，就足以让人质疑：我们在与它们互动时，究竟有多理性？

我也不知道究竟该用什么词来称呼它。或许“clanker”还能作为一种有用的术语存续下去； 又或许它会变得过于沉重，以至于我们不得不另寻一个新词。 无论我们选用哪个词，我都希望它能清晰地划清界限：一边是人类，肩负着全部的责任； 另一边则是机器，作为一项枯燥无趣的工具。

这一界限绝非反AI。我每天都在使用这些系统，并且很荣幸能在Earendil打造融入这些系统的工具，发现它们竟然极其实用、令人惊叹。

机器可以很有用，可以模仿人类，却终究只是机器。 这就是我希望“clanker”所扮演的角色——它并非为了塑造未来的“机器人”——即便未来真的存在这样的人类； 它也绝不是为种族主义提供借口、通过那些低劣的机器人笑话来“洗白”种族主义的工具。

如果这个词不再承担这样的角色，我自然会寻找另一个合适的词汇，因为对我来说，重要的并不是这个词本身，而是那条界限——这条界限对我而言至关重要。

1. “Clanker”一词最初由《星球大战：克隆人战争》推广开来，但据称早在科幻小说中就已经被广泛使用了。sfdictionary：克兰克尔↩