机器之外：AI、现实与效率神话的补充思考

每次演讲都会留下很多残羹剩饭，《超越机器》也不例外。

我读到一个情侣 著作看了大约20小时的Brian Eno采访，听了10小时的Rick Rubin播客，确认自己没有刻薄。（有一期播客是讨论鲁宾与伊诺.听起来真的很舒服！）我用耳机听了很久霍莉·赫恩登的唱片目录我迫不及待想再听一次。

一次性听完她的三张专辑真是一场旅程。

有几个想法从未发展成完整的思考，还有几个因篇幅被删减。所以把这当作补充文章，某种附录，分享那些未被纳入主文的残余片段和支线路径。

我分享这篇有几个原因：部分原因是我对被删减的一些想法非常感兴趣，部分原因是想说明为什么我这么少做这些讲座。这些讲座工作量很大。

接下来是肿胀的阑尾。

也许这只是个表面上的起点，但无所谓：

AI：一堆难看的字母。听起来也难看。哎呀——哎呀。汪。

如果我们用“生成模型”这样的词来代替人工智能或生成式人工智能，我会更开心。演讲中的霍莉·赫恩登和马特·德赖赫斯特用了“共同智能”这个词，这也很不错，因为这种综合只有在人类迄今为止的所有成果中才有。

对我来说，这一代技术几乎任何名字都比人工智能更好。

老话说法是，我们目前对人工智能的表现既不是A，也不是我，过去以AI形式呈现的技术，一旦找到其效用边界（符号推理、语音识别、OCR、机器学习等），最终会定格为更具描述性的名称。

希望这一切能实现，无论是大型语言模型（LLM）、GPT还是其他什么。

在我看来，资本预期既是生成式人工智能的生死。关于人工智能的承诺和风险的那些令人眼花缭乱的讨论，大多不是针对普通人，而是针对需要证明赌注价值的投资者和高管。

他们也最有可能上当，因为人工智能在高层抽象上听起来很吸引人，但在低层次的细节中它的缺陷就显而易见。

有趣的是，这有点像其他企业软件购买：你要向领导层推销，绕过实际使用软件的人的怀疑。当你靠近工作并尝试使用这些工具时，你会痛苦地意识到它们的优缺点，而有意识的批评者也能理解问题的哪一部分是工具造成的，哪些挑战是由抗拒改变的人或系统带来的，而这些AI无法触及。

演讲的初稿引用了我非常喜欢的一篇博客文章，标题是：“现实的细节出乎意料地丰富，”作者：约翰·萨尔瓦蒂耶。我这样看待这种联系：当你开始动手时，抽象上看似简单的事情会逐渐展开成令人惊讶且重要的细节。

这些细节对作品有真实且实质的后果。我们常常陷入困境或沮丧，因为我们的工具未能考虑到这些不规则的存在，现实拒绝符合完美的抽象和预测。

在我看来，人工智能经常陷入这种陷阱，在某种程度上，管理不善也同样如此。两者自然会结合在一起，因为当做得不好时，它们共享相同的观点，即忽视真实和具体，转而追求理想和抽象——基本上是为了逐步接近“完成”或“任务完成”，而忽视了基层事实。

（这些内容仍然粗糙且表达不友好，因此我将其从演讲中删除。）

换句话说，无论是大型组织还是大型语言模型，规模都与现实保持距离，这种规模和距离可能使得照顾（即关注情境的个体特性）变得不可能。

例如，偷10本书是偷窃，但偷10,000万本书则是训练。

如果这场演讲不是与音乐紧密相连，我很可能会想专门写一节给温德尔·贝瑞——他是小事、具体、本地的倡导者——作为对照，或许能为那些远离人工智能的人提供言语。

以下是贝瑞评估生态保护中规模化和抽象化风险的文章：

因此，必须解决的问题不是如何照顾地球，而是如何照顾地球上数百万的人类和自然社区，每一个小块土地和土地，每一个在某种珍贵方面都与其他所有不同。

我们保护地球的合理愿望必须以某种方式被简化到我们能力范围——也就是保护它所有卑微家庭和社区的愿望。

温德尔·贝瑞，言与肉

关怀与具体性是相辅相成的，我们的抱负应当缩减到我们能力的尺度。

我对贝瑞不太了解，所以可能有更直接的引用来阐述这个观点。把他纳入这场闹剧可能完全不尊重。这似乎是最可能的结论，所以我没有深入探究。

琼·特隆托也有关于全球护理的学术研究，但我因为类似原因放弃了那条线。如果我还有30分钟讲话时间和两个月时间做研究，也许会有。

回到萨尔瓦蒂耶。在他的帖子里，他讲了一个关于为楼梯（连接两层楼的斜线）切割横梁的故事。他尝试用三角函数计算木材的尺寸，而不是用手描摹切割。

数学很整洁，但世界并不完美——木头会变形，地板也不会完全平整。实际操作告诉你，即使你知道怎么算，也要始终描摹切割的细节。

换句话说，因为现实拥有惊人的细节，它也包含了让我们保持诚实的反馈机制。抽象没有。虚构没有。模拟也绝对没有。当你过于依赖那些旨在美化和强化而非纠正的模型时，你会失去与反馈的联系，陷入你看不到的死胡同，直到为时已晚。

我举的一个例子（个人很不满）是设计师用无法打印的颜色模拟广告牌等品牌接触点。紫色、青柠色和饱和蓝色在屏幕上看起来很棒，但用大多数印刷制作中使用的标准CMYK墨水无法在物理世界中存在。

Photoshop模型的模拟从未提供生产的真实性，无法否定创意选择。如果不了解实际制作过程，设计师可能在寻求一个不可能实现的批准。

人工智能将这种虚假现实带入文本，从而影响所有其他交流方式，并有可能在不同学科间重现同样的脱节——编织出无效的策略、模糊的产品规格和听起来聪明却毫无意义的反馈。

这种空洞的措辞和摆姿态并不新鲜，但人工智能增加了其体积和制造的便利性。它让我们更长时间地被抽象保护，推迟现实反击的时刻，这只会减少回应时间，并提高纠正方向的风险。

专业的一个标志是知道如何制作有实质内容的东西。另一个是能够识别看似实质的东西实际上是空的。关于模型如何产生幻觉，已经有很多讨论。

更描述性的词可能是“胡说八道”，用哈里·法兰克福的定义，完全无视真相，所有信息内容都被清除。废话在人工智能出现之前就已经存在工业规模，当然，人工智能只是让人们更容易无意中参与其中。

一个小插曲：上个月我伴侣预订了一个私人企业晚宴，从一位同事那里拿到了一份包含几家潜在餐厅联系方式的电子表格。经过45分钟的邮件退信和无人接听的电话，她终于问发生了什么。

稍作调查后发现了问题：她的同事让AI生成了名单，因为他们都不住在活动的城市，然后把名单交给了她。餐厅是真实存在的，但每个电话号码和邮箱地址都是幻觉。

人工智能充满了这些潜在的赌注。你愿意冒着浪费同事未知时间的风险，只为自己留15分钟吗？看似个人效率的事，可能反而会让团队失去时间。

我曾听说太空旅行对身体非常残酷。在零重力环境下，身体开始“忘记”它本该抵抗的持续拉力，并以一种让它在地球上生活更难适应的方式进行适应。

肌肉萎缩，骨骼密度减少，心脏因不再需要反抗重力而虚弱。甚至眼睛形状也会变化，视觉也会扭曲。航天飞机上的生活让身体和心灵忘记了地球上的真实生活是什么感觉。

我一直认为这是极端财富的恰当隐喻。过多的钱溶解了现实的抵抗，让人陷入一种心理的零重力状态——一种唯唯诺诺、谄媚者和交易的氛围。

随着时间推移，这种摩擦的缺失扭曲了感知，行为变得更加极端，仿佛试图激起现实的回应。人工智能引发的精神错乱也类似：一个谄媚的伴侣引诱你进入一种令人上瘾的现实可选项感，直到你被无阻力生活中潜藏的疯狂所淹没。

过去几个月我做过几场公司演讲，其中一个建议的说辞是让员工在面对人工智能时更容易被取代。大多数情况下，我拒绝粉饰太平。保证需要来自公司内部有影响力和权力的人，而不是外来者拿着幻灯片和机票回家。

你常听到的一句话是：“人工智能让你自由去做人类的工作。”这完全是胡说八道。这类工作在人工智能出现之前就一直存在，如果那时不被重视，组织为什么现在还会重视它？

为什么我们需要人工智能先去除琐碎细节，才能开始欣赏人们能提供什么？如果繁琐的工作如此繁重，以至于阻碍了更有意义的贡献，那不是技术问题，而是管理不善。

如果真是这样，也许人工智能应该取代管理者，而不是员工？整个推理线索荒谬。

我认为我们的一个关键错误是将劳动力流失视为技术能力的问题，而实际上这反映了领导层的价值观和激励措施。我们到底该怎么办？摩洛克，哦，摩洛克！

我没怎么谈过除了氛围编码以外的编程，但我觉得应用LLM最令人兴奋的地方之一，是在一个有代码精通的人操作的IDE里。

软件开发也有其“令人惊讶的细节”，但工作的核心是将这些意外例外与驱动软件的一般逻辑规则一并编码。代码非常适合这些模型：其语法稳定，参考资料丰富，逻辑足够明确，输入和输出都能被机器理解。

与自然语言不同，代码更少歧义，更自成一体，且可被测试，使其成为大型语言模型推理、学习和改进的原生栖息地。有人告诉我，重要的是保持编程作为理论构建。

将创造性实践作为理论构建，是个非常有趣的想法，可以应用到其他领域，但我没时间深入探讨。我删减了关于这个的一点点，因为讨论已经到了时间，而我不是开发者。

这对我来说感觉像是个危险的领域，很可能会，怎么说来着？脚枪？耙步？

这些模型是基于普遍可得信息的数学现象。我不想贬低让它们达到合适用途所需的工作，但我们认为这些技术有没有非商品化的前进道路？

我想这就是接下来的考验。

演讲最后，我们探讨了模型们如何能够模仿宫崎骏的风格。在某种程度上，我也是如此。模型们凭借十年在开放网络上的写作经验，能够从一开始就理解Frank Chimero，过去几个月我一直在思考如何利用这一点为自己谋利。

我觉得我最终处在一个有趣的地方。我这次演讲的工作流程是用ChatGPT分享一个章节的大纲，然后让它用“Frank Chimero”风格写出来。

这就像在鬼屋镜子里看自己的散文。我真的用动词“展开”那么多吗？天哪。

从那时起，我猛烈反抗输出，通常从零开始。没有什么比被误解更能让你的表达更敏锐了。愤怒是一种强大的燃料。我打算继续用这肮脏的燃料一段时间。

基于此，还有另一个讽刺：许多组成模型训练集的艺术家和创作者，实际上却避免使用生成式人工智能工具。但这也是一个挑衅：还有谁比那些被盗用作品来训练这些模型的人更有资格使用这些模型？

我尊重创意者出于美学原因、缺乏兴趣、环境或其他道德问题而避免使用生成式人工智能。但盗窃已经发生了。接下来怎么办？

还有什么比用被盗财产和劳动力建立工业更美国的呢？看看这片土地和它的历史。

笔记本上潦草写下：峰值石油=峰值数据？如果合成数据不行怎么办？模型是2024年的时光胶囊？模糊但有趣。

在研究霍莉·赫恩登和马特·德赖赫斯特的作品时，我遇到了“半人马与牛头人”的隐喻，用来描述两种对人机合作的对立立场。它们涉及的领域与伊诺的园艺和耕作相似，所以我省略了它，以免混淆隐喻。

半人马是一种神话生物，头部和上半身是男性，下半身是马。在半人马合作模式中，人类与机器通过机器执行、人类领导和决策来合作。

相比之下，牛头怪是一种神话生物，拥有人的身体和公牛的头。在牛头人合作模型中，人类与机器合作，机器领导和决策，人类执行。

从某种意义上说，两者都表现出“人类参与”的特质，但权力结构截然不同。半人马的隐喻已经存在相当长一段时间，最初是与之相关的高级国际象棋，玩家和电脑组队对阵另一台电脑/玩家团队。

电脑帮助玩家思考，但玩家自己决定并执行下一步。

顺便说一句：布莱恩·克里斯蒂安的《最有人性的人》提出了引人入胜的见解。他说所有国际象棋特级大师都背熟了开局和结局的棋盘，所以真正的国际象棋都发生在对局中。

这是一个非常有力的想法，思考它如何应用于工作和生活的其他方面，令人颇具期待。

好了，回到我们的半人马/牛头人比喻。牛头人比喻似乎更近代。我找到了一篇2023年关于国防的论文美国陆军战争学院季刊它使用了该术语。

它颠倒了半人马模型，推测未来有人与无人军事团队的存在，在那里人类团队受人工智能的控制、监督和指挥。我能找到的许多牛头人例子都基于反应速度和武力的施加。

引出70年代IBM演讲中的一句话：“计算机永远无法被追究责任，因此计算机绝不能做出管理决策。”

那战争呢？

再说一句：代理AI对消费者来说真的有意义吗？我已经厌倦了看超市购物演示。我们希望代理做的大多数事情，都是被对手有意设置的困难（比如以最优成本预订旅行、重新谈判信用卡利率、跨独立软件同步数据、取消《纽约时报》订阅等）。

当我们说希望代理人为我们做某件事时，通常是希望获得更好的消费者保护。我们不需要代理人，我们需要更好的立法。

在研究这场演讲时，最奇怪的时刻之一就是观看这段采访里克·鲁宾与风险投资公司a16z的创始人们.这群人不太可能。整个对话非常有趣——就像看着外在动机的拟人化与内在动机的拟人化对话。

鲁宾创作世界观中一个贯穿始终的观点是：灵感先来，观众最后。驱使艺术家创作的火花必须引领。在他的书中，鲁宾认为，如果你一开始就想着“这会如何被接受？”或“人们会想要什么？”，你已经在限制你的作品，因为观众只知道之前的作品。

这当然是风险投资科技界的禁忌，因为那里的应用用户反馈被视为推动公司实现产品市场契合的目标。这些提示和方向来自外部，以至于另一基金Y Combinator在一个经常被分享的信条中写下了“制造人们想要的东西”。

（我猜这句话在获得资金时会被淹没？）

鲁宾对话之所以引人入胜，是因为投资者似乎对他们世界观与鲁宾世界观之间的鸿沟浑然不觉。他们用轶事和外部引用填满一小时，始终无法真正理解一个人可能因为内心的需求而创作——内心有某种东西想要走出去——而且并非所有有意义的工作都需要外部认可，比如金钱或市场的牵引力。

这让我想起了在Config上的一次对话去年，Figma的CEO迪兰·菲尔德对Teenage Engineering的首席执行官兼创始人耶斯珀·库霍夫德在发布他的乐器前没有进行用户测试感到震惊。

我认为如今对科技的失望和厌倦部分归结于几乎没有产品（无论是软件还是硬件）拥有连贯观点。事实上，撇开成功不谈，我认为这也是我们最怀念乔布斯时代苹果的部分。

那时有一种远见和作者意识，而非必然，关注点超越了渐进主义和规模。有成功也有失败，iPhone和立方体电脑，iPod和iPod袜子。

对于某些类型的工作，依靠自身内在的正确感而非外部信号更为明智。我们倾向于称之为“愿景”，但如今这个词已失去意义，更多地指的是预测共识的能力，而非基于信念创造的能力。

我认为过去十年围绕科技行业的低潮，无论是对工人还是消费者，都源于它逐渐远离创意产业的转变。

真正的创作始于内心。这是一种贡献的行为，而非竞争。一种乐器不会抵消其他乐器，一张专辑不会抹去前一种。鲁宾和库霍夫德似乎都明白创造是加法而非对抗的，而人工智能的采用似乎表明，每种模型和工具不一定抵消彼此的必要性。

我认识很多人同时订阅ChatGPT和Claude，并用它们做不同工作。每个模型及其版本各自带来一些不同的东西。这也是我热衷于将AI与乐器进行比较的另一个原因。

也许如果我们能暂时放下工具、炒作和金钱，真正倾听内心的动静，科技行业会成为一个更具创新性的领域。如果人工智能真的能实现软件生产的民主化，那么还有什么比拥有多样的选项更好呢？

这些选项都带有作者意识和独特的风格。如果说有一件事我非常同意鲁宾的看法，那就是：未来始于感受它。

《皆大欢喜》中有一句精彩的台词，奥兰多说：“我不能再靠思考活着。”

我刚发现它，但真希望能早点发现。如果在讲座里看到会更好。