1964年的科幻小说，预言了今天的LLM狂热

前段时间我去了一个二手书展，发现了这本80年代科幻美学的精彩作品。

这本书是波兰作家斯坦尼斯瓦夫·莱姆的短篇小说集，最初于1964年出版。英文书名为赛博里亚德.其中一个关于特鲁尔电子吟游诗人的故事，意外地贴近现实。

以下内容包含全剧剧透

发明家特鲁尔（在其他故事中被揭示为机器人）想制造一台能产生诗歌的机器。他首先收集了数百吨书籍作为训练数据。

特鲁尔开始着手制造电动诗歌机器。在这个过程中，他们必须制造巨大的数据存储容器，这些容器的长度超出了望远镜所能看到的范围。

这被认为是这项伟大发明启动的必要之恶。

机器无法按预期工作。作为最后手段，特鲁尔拆除所有逻辑电路，换上“纳西斯托”。然后一切开始正常工作。

特鲁尔邀请他的朋友克拉帕修斯来测试这台新机器。他们给了它各种奇怪又古怪的指令，比如“创作一首包含数学和控制论的田园爱情诗”。

基本上他们做了大量提示工程。他们的言行和行为完全像2021-2023年人们刚出现大型语言模型时的样子。

最终，这台机器在诗人们中引发了轩然大波，并有抗议要求关闭它。这些抗议未能奏效，部分原因是媒体暗地里喜欢这台机器。他们用它来制作自己的内容，赚取极低的费用，因此不希望它受到伤害。

在这一切发生的同时，许多人出现了与现代人工智能精神病症状非常相似的症状。

当特鲁尔收到机器的电费账单时，事情最终崩溃，账单金额高得离谱。他需要处理掉机器，并设法把它扔给一位来访的贵宾，让他带回自己的星球，结果引发了超新星爆炸。

特鲁尔认为那已经足够远，不再是他的麻烦。

事实与虚构的区别

故事中所有问题都源于机器的输出远高于人类制造的任何东西。即使是伟大的斯坦尼斯瓦夫·莱姆也无法预料，实际上输出会是平庸的垃圾，并导致同样的问题。

尽管故事明确规定机器先被赋予一些“基本指令”，但没人尝试对它进行即时注射攻击。这直到近30年后，出现在1993年的《偏执狂》小说中出于安全原因，标题已删除.更早的例子很可能存在，几乎总是如此。