我不喜欢大语言模型

我对人工智能和大型语言模型技术有很多复杂的感受。我对它对我们职业的影响感到着迷，对潜在的生产力提升感到兴奋——因此我们能快速开发出更多产品。

另一方面，我也担心人工智能可能带来的破坏：智能体蜂拥接管我们的虚拟和物理基础设施，设计生物武器。但从我最初的角度看，大型语言模型也可能设计奇迹疗法，并想出巧妙的方法提升我们的繁荣。

从根本上说，我认为我们没有选择是否搭乘人工智能技术的列车。这是一段疯狂的旅程，我只希望我们能顺利度过。

但随着我进一步思考，我意识到在这各种截然不同的情绪中，有一种情绪占据主导地位——那是我与大型语言模型（LLM）直接互动的情绪。

我没有比如他们。他们用那种刺耳的LLM语气和我说话，就像和真人说话时的恐怖谷。他们自信地胡扯我——经常给我有用、有帮助的答案。

但他们也总是凭着同样的自信编造东西——当我指出来时，他们只有一层假懊悔的假象。

这还不足以让我觉得我们应该避开他们。作为杰西卡·克尔放下它“它们不仅有用，不使用它们是不负责任的......它们更全面，也更快。”这种矛盾的反应显而易见民调人们说他们觉得这些模型有用，但也认为它们对社会有害。

这很大程度上可能是因为大型语言模型还很年轻——我们还没有训练它们成长。也许等它们成熟后我会喜欢它们。（我希望我们能知道答案。）但当我想到培养它们的环境时，我并不感到鼓舞。

我对硅谷的“兄弟商”亚文化持谨慎态度，而这些大型语言模型是他们的产物，自然倾向于他们的世界观。当我们想到人工智能代理时，不应将它们拟人化，把它们当作有自主意志的有意识的存在。

它们是（软件）机器，由企业内部的人开发。虽然智能体的行为没有被明确编程，但它们是以创造者的价值观来培育的。

我最成功的生活技巧之一是避开我不喜欢或不信任的人。我拒绝与他们社交互动，并刻意避免与他们共事，即使他们做了很多有益的事。

我觉得和愉快、有能力、有诚信的人相处让我的生活变得更好。因此，我本能地反感与一个不仅假装是人类，还假装成我会离开的人的人互动。