一种新型的创作贫困

编者按：Noema在其文章中对AI的使用保持透明。我们发布原创的人类生成想法，但在某些情况下允许授权且公开使用AI。详见本文末尾。

在疫情的一段黑暗期里，我开始读琼·迪迪恩的“《魔法思维之年》，她关于处理丈夫去世的书。迪迪恩写道她不能把他的鞋子送出去。她已经准备好了西装、衬衫和夹克。但当她拿到鞋子时，她停顿了一下：“我站在那里片刻，然后明白了原因：如果他要回来，必须有鞋子。”

我独自一人住在一间最近因一段长期恋情而空出的公寓里。租约到期后，我又续租了又续，家具保持原样，灯的角度也保持不变。迪迪恩所面对的，是奥威尔的话“人类可识别的经历。”通过她的文字，我感到一阵释然，突然看到自己停滞的生活就在眼皮底下。

许多读者来读迪迪恩的目的——我来找她的也是——是记录一个心灵在自身混乱中运作的过程，一种处理思绪的方式，处理脑海中无形的天气。

我喜欢看她倾诉一切，比如发现邻居家一片混乱，感到确信没有人的生活是真正井然有序的。

被像迪迪恩这样的作家所描绘的经历所吸引，可能是经过无数年进化塑造的生存特质。心理学家布鲁斯·胡德论证我们是一个自我驯化的物种：在大约一千代的历史中，人类在伴侣和盟友中偏好合作和社交作为特质。

在此过程中，我们重新连接了大脑，使其能够阅读、追踪、模仿并渴望他人的思想。胡德写道，我们通过发明确保我们能够共存的文化和实践，实现了自我驯化，最终赢得了进化游戏。

被他人内心世界所抓住，是我们内在的老设备。

社交媒体是这种古老冲动的产物，是一台用来以进化从未计划过的规模来表达我们对他人兴趣的机器。但当我们发现这个“另一个人类”或“可识别的体验”是由大型语言模型人工生成的时，会发生什么？

也许这就是假冒品切割效果的原因。人工智能的粗糙表现让人感到背叛。当你倾向一张脸，却只看到一个面具，背后没有人时，会有一种挥之不去的感觉。

这种感觉大概也是人们痴迷于将所读文字通过Pangram检测的原因之一，Pangram是一种用于检测AI写作或其他类似检测工具的工具。我认识的几乎每个作家对那些“挂毯”、“结晶”、“探究”、“不是X，是Y”等低费力、过度拟合的语体——都会有某种本能的反感。

可能没有人比英国作家萨姆·克里斯在随笔标题为“如果你让AI写你的作品，我会来你家杀了你”：

我讨厌它。我觉得它本能地恶心;一种冰冷的颤抖，就像有人往我脖子后面倒了果冻。我讨厌它无处不在;我讨厌现在读任何东西时都时刻保持警觉，像个精神分裂症患者在地下通道里抽搐。

这东西真的是它说的那样吗？这个人真的是个伪装的机器人吗？你写的个人随笔不错，女士，但我知道你真正的身份;是时候掏出我的刀了，是时候开始在你皮肤下挖掘，直到找到那些电线。

这种冲动——当一句话感觉不对劲，你必须挖掘它的皮肤下寻找线索时——你可能很熟悉。在会议不久前，我看了Substack首席执行官Chris Best和负责人Oliver Habryka的报道。

理性主义论坛 LessWrong讨论这种扰动。这两个平台在早期都建立在这样一个假设上：读者可以信任眼前的写作是真实且有人情味的（并且有别于体制写作）。

如今，这一假设已不再成立。

LessWrong现在要求其作者披露他们使用过AI的时间。截至发布时，Substack最近也已披露推出了一个功能使用全字母句式的检测来减少“Claudefishing”，避免读者“无意中将注意力投入到没有人声思考的内容上”。

每个人似乎都被每句话背后怀疑AI的持续负担所累。科技行业的行动和不作为（例如LinkedIn已成为人们嘲笑的AI垃圾堆）反映了对无魂垃圾的日益强烈反弹。

我也曾因AI写作粗糙而感到愤怒，这让我内心感到不适。我的反应有时有些病态：我疯狂地删除自己的破折号，甚至曾误以为一位作家朋友写的几句话是AI生成的。

但我也必须承认我与AI的关系：因为英语是我的第二语言，我非常依赖Claude作为语法检查工具——来平滑句子中的凸起，去除ESL的风格。

我曾经用一个有点尴尬的比喻来形容英语写作：装上一对机械翅膀。这对翅膀带我去到以前无法触及的广阔地形和观众，尽管有时感觉很人工。

AI让这些翅膀变得不那么沉重，但更像是不完全属于我自己。所以当我对AI写作感到愤怒时，我也会试图理解愤怒的来源——然后我会想自己到底有多生气。

逃离简体中文互联网

自从17岁离开中国后，我曾长时间感到被母语困住。更准确地说，我指的是一种源自中国封闭互联网的特殊语言。这是一种奇异的语言，早已与中文的深度和哲学丰富性切割开来——被多年来讨论空间的缩小所驯服和扁平化，充斥着算法偏爱的简洁。

出于自嘲和同情，人们创造了一个词，叫做“简中互联网”（简中互联网）。这个词语立刻让人联想到思维残废、单一维度的话题、躲避审查却毫无意义的含义俚语，同时还有先进的基础设施和严密的审查。

我想逃离的是简体中文互联网本身。而其使用的语言可以理解为长期的奖惩环境产物，类似于当今的LLM训练。随着时间推移，即使是最有创造力和叛逆的头脑也会被驯服和过度适应，直到他们只能产出“可接受”的延续——为了公共“安全”。

当然，正因为“简体中文互联网”受到限制和审查，有时会激发奇怪且巧妙的表达不满方式。2022年“白皮书”抗议就是一个完美的例子：示威者举起空白纸张反对清零，因为国家（和算法）无法审查空虚。

但这种聪明并非审查本身的功劳，也不能证明威权控制不会扼杀创造力和自我表达。这种结论完全错误。实际上，大多数“不安全”的人早已离开“简体中文互联网”或变得闲置。

这种创作贫乏让我思考大型语言模型无法成为原创作家的能力。过去几个月，许多使用大型语言模型写故事的人注意到奇异效果：关于灯塔、钟表匠和图书管理员的故事比例过高——这些故事总有一个名叫“Elias Thorne”的主角。

Elias的名字现在无处不在：在自助出版的亚马逊书籍、假新闻网站和YouTube视频中。这是一种典型的模型崩溃现象——模型产生重复且低多样性输出的失败状态。

一个未经证实的猜测是，阵营性使LLM在训练后更倾向于选择“最安全”的选项，从而避免说出低回报的话（不当内容、版权侵权等）。LLM会避开所有可能的雷区，选择在其系统参数内最大化奖励的输出，因此我们最终会得到一个关于孤独的Elias Thorne生活在世界尽快灯塔的故事。

这几乎就像让一个18岁的中国学生在考试中讲故事一样：结果是鲁迅、海伦·凯勒、居里夫人、钱学森和杜甫等千篇一律的阵容——这些以道德为驱动、易于理解的组合，可靠地赢得好评高考得分.

但我们这些邪恶的人，尤其是在创意领域，非常擅长与上述所有这些问题作对抗。作为作家，“艺术品的核心职责是打动我，而不是让它对我可读。”哪种伟大的写作永远不会出现在一个只为最大化分数的奖惩体系中？

奇怪的是，我童年时就在19世纪法国诗人波德莱尔那里学到了答案。

我至今仍被他那篇关于死亡、地狱、性和腐朽的哥特式罪恶诗作《恶之花》（Les Fleurs du mal）中的偶然童年邂逅逗乐且挥之不去。

那时我大概八九岁，伸手去我们位于中国北方太原家中父亲书架的下层书架，寻找一些不那么幼稚的书来读。封面让我相信这本书讲的是一些希腊英雄和欧洲冒险。

那是一本小而旧的书，纸质脆弱，由学者郭宏安翻译。我父亲，我怀疑他自己从未仔细读过波德莱尔，他只告诉我这位诗人是伟大的人。

“西方大师，就像莎士比亚、狄更斯、维克多·雨果一样。经典！”他说这话时满怀敬意，也带着一位父亲的喜悦，因为他的女儿年纪轻轻就涉足西方。

“下周作业里引用他的台词,“我父亲建议的.于是，毫无预兆地，我在还没弄明白“西方大师”是什么意思之前就走进了波德莱尔的想象，最刺耳、最疏离的段落在我心中烙印——而且是一本既美丽又令人恐惧的中文译本。

我父亲——一位追逐潮流的中国北方杂志编辑，渴望美国和自由主义——在二十出头时买下了这本书，那时中国正处于一个相对开放、多元化的时期，当时国家允许自己在白天讨论波德莱尔。

在文化大革命期间，唯一安全可读的书是毛毛的《小红书》，文学界借鉴了苏联的学说，已提交波德莱尔的著作在晚期腐朽资本主义的颓废下;阅读他是异端，是一种堕落的“毒药”。

然而他依然幸存下来，被北京、上海，甚至重庆陡峭山区的地下读者秘密传递。北道，一位我父亲曾钦佩的反传统诗人，写下了那些被偷运的诗作在黑暗时代的意义：我们一起搜寻波德莱尔零散的诗作，仿佛在海中寻找针，仔细而整齐地抄写进笔记本。

对北京地下文学界来说，这样的地下出版物是一种精神指引。

多年后，我现在住在加州，仍然能用这样的方式描述那个在中国的童年下午“《恶之花》被形容为一场令人恐惧、激动人心、令人心碎的旅程。那些诗歌讲述的是吸血吸血鬼还有性欲、腐烂的尸体，以及一个诱人的女人在路边腐烂成一堆可怕的骨头。它们完全不像中国的儿童读物，不像我的教科书，也不像我收到的任何西方经典。我知道自己在读一些禁忌的东西，是从缝隙中溜走的东西，而我父亲一旦发现那是什么，可能会立刻收回。

我从未采纳父亲的建议，在作业中引用波德莱尔。我花了很长时间才把读他时的震惊和羞耻从脑海中抹去。他更深的影响力直到成年后才显现，而且是多年后。

直到我更广泛地阅读，我才真正明白他到底是什么。所有那些道德上的越界，他倾注在了法国诗歌中最严格的传统形式（亚历山大诗、四行诗、十四行诗）。

在这些有序的韵律中，读者找不到你所期待的形式所培养的主题。震撼是重点。

1857年夏天，《恶之花》一出版，波德莱尔就被起诉——被法国当局控告亵渎神明，法院称他亵渎公共体面;他被判猥亵罪，六首诗被命令从书中删除。

在巴黎被谴责;一个世纪后，毛主义正统再次谴责为资产阶级腐败。他在1980、90年代中国日益松动的时期重新出现，被像我父亲这样饥饿的自由派年轻人收集，他们误将我们家里最具颠覆性的19世纪书籍当作西方经典。

奇怪的是，最近让我重新回到了波德莱尔的正是人工智能。面对那些由机器结合统计中心性和从人类反馈评分学习而平衡、精致且礼貌的文笔，我发现自己开始怀念波德莱尔——怀念那个书架，那个书架，那个多年来一直隐约带有罪恶感的那个。

博德莱尔在精神上代表了大型语言模型训练的边缘情况。

品味好？

我的朋友Jerry Zhou，曾在Microsoft AI做LLM培训，他告诉我模型就像一个人，全球有数百万人都在问那个人的问题。如果问题相似，答案就会趋同。

除非你在LLM权重或训练目标的层面介入，否则你绝不应该指望这个人会让你感到惊讶，更别说让你震惊。

克劳德自己的”宪法“这份约80页的文件教导模特如何行为，指示它”真正善良、睿智且有德行“：要圆滑、乐于助人、优雅、诚实，最重要的是，”以一个好人会做的方式帮助他人“。我想知道当今的波德莱尔原型，那些作家和艺术家，是否会想要创造”好人“所能创造的东西。对许多人来说，我怀疑这个词本身可能侮辱他们的艺术，或者令人生闷。

我不断回想起西蒙·沙玛《艺术的力量》中的一句话。那是书中的第一句话：“伟大的艺术有可怕的礼仪。”哥伦比亚大学历史学家沙玛告诉我们，艺术是“暴徒”、“无情且狡猾”。

它会“抓住你的头部，粗暴地摧毁你的镇定，然后很快重新排列你的现实感。”

我承认，期望每个作家和艺术家都像波德莱尔那样挑衅是不公平的。但童年那段经历让我早早坚信：伟大可以出现在边缘，被认为不安全，仍然无法通过任何实证衡量。

“西方大师”不必是狄更斯或雨果，是那种“关心无产阶级和弱势群体”的美德作家，正如中华人民共和国课程所偏好的那样。他完全可以是一个被法国宫廷和毛主义共度一个多世纪的定罪者。

那天下午，我把波德莱尔的作品放回书架后，回到书桌前完成了作业。此后几年，我写了无数论文，全部都遵循中国教育体系的规范，老师们都能完美辨认。

他们和我都记不住一篇。即使现在，我仍在努力摆脱那些学校和简体中文网络灌输给我的肌肉记忆。

后世对波德莱尔的评价是，他是法国古典主义的最后一位诗人，也是法国现代主义的第一位。那本邪恶的书，许多年后，使他成为法国象征主义之父。

近百年后，即1949年5月31日，对他的判决被正式推翻，六首被禁的诗作在法国重新印刷。伟大的20世纪评论家沃尔特·本雅明叫他是现代诗人的先驱，正与当时在工业化巴黎兴起的城市商品资本主义展开生死搏斗——那是当时没人知道如何描述的。

在没有波德莱尔的旧法国，没有人有语言去描述现代性所带来的新城市现实。然而，波德莱尔展现了本杰明所展现的描述作为他对那个现实的“震撼、原始的感官印象”，这个现实充满了现代感，如、泥泞、煤气灯、拥挤的人群和永恒的疏离感。

在商业巴黎，谁还需要本杰明的事叫“一个拾荒者，收集城市废墟，将其转化为诗歌”？谁能想到这个拾荒者会成为现代性衰败的代表人物？

研究者王正东在一篇论文中指出，评判LLM能力的盲点人工智能评估这也是人类社会的一个盲点：“我们甚至不知道自己真正想要什么，直到看到它，那时它可能会改变。”是的，世界很久都不知道自己想要一个波德莱尔，直到它理解了他.旧的坐标，就像起诉波德莱尔并夺走他50法郎的法国国家一样，既不能允许也无法理解一种无形且完全真实的体验。

我认为，这正是我父亲那代人所追求的感受，那些在文化大革命中成长起来的中国人。波德莱尔跳跃了社会用来区分“好”与“坏”的所有标准，却因此受到惩罚。

诗人北道，在那些年里将波德莱尔视为秘密的精神偶像，他与同辈们在1980年代更开放的中国共同创立了迷雾诗歌运动这对我父亲影响深远。

这场运动几乎与文化大革命标杆所珍视的一切为背景——那些带有积极情感、教育价值的社会主义现实主义作品和政治抒情诗，作者被塑造成“人民”或“时代”的代表——反而充满了不可知和不可预见的东西。

今天的硅谷有些像惩罚波德莱尔的法国国家，一个沉醉于丰盛和自身工业革命的时代。我们被说服相信人工智能会带来繁荣和智能爆炸，随时能治愈癌症。

正在研究的研究人员递归自我提升它让我相信人工智能会在我们能用语言表达的每一个基准上表现出色。然而尴尬的事实是，人工智能仍然给我们带来平淡的散文和糟糕的写作。

人工智能感到失望;它并没有“革新”内容。它越来越”同化写作、设计以及与人类表达相关的一切，以及反向塑造我们的思维。近年来，硅谷许多人将“品味”视为解药。

有人认为“好品味”让人的眼睛更具洞察力，能够识别出在人工智能生成的无限内容海洋中脱颖而出的难以言喻的品质。《大西洋月刊》的一篇文章中，“对领导者来说，品味是一种竞争优势主张.文化评论家兼软件设计师Celine Nguyen观察到“品味已经成为了包容的词”，以及《纽约客》的专职作家凯尔·查伊卡，建议它已成为硅谷最新的陈词滥调——就像2010年代的“颠覆”一样。这个词已经变得坚硬，成为广泛重复且本质上有利可图的词，成为纠正人工智能产出问题的杠杆。味觉是新的护城河人工智能创业者说。

这个词也传到了中国及其同样普遍的人工智能产业。在简体中文互联网上，科技迷和人工智能从业者交换如何用“好品味”构建东西的意见。

但我内心的地震仪显示情况并非如此。这种“好品味”中的一些很快将成为平庸的中点，新的可预测性，新的“不是X，是Y”。波德莱尔对此毫无用处。

他是一个故意挑起厌恶的人。他相信“怪诞与悲剧的混合，对心灵来说就像对冷漠耳朵的不和谐一样令人愉悦。”一个为自己糟糕品味感到自豪的人。

“糟糕品味中令人振奋的是什么，”他写道他的私人日记“是贵族的快感，就是冒犯他人。”

编者按：Noema对其作品中使用人工智能保持透明。我们发布原创的人类生成想法，但在某些情况下允许授权且公开使用人工智能。本文初稿使用Claude改进语法和句法。

此后该作品经过多次人工编辑。Noema通过多种扫描仪和审核流程核实作者身份及作品概念原创性，并进行了详细的人工事实核查。 请参见我们的这里的人工智能政策.

本文最初发表于诺埃玛.