另一条路：为什么我不想要AI统治的未来

对我们来说，人类是一个遥远的目标，所有人都在朝着它前进，没有人知道它的形象，其法则从未被书写。——赫尔曼·黑塞，德米安

尽管我大半生都在浸淫于超人类主义思想，但我从未关心过人工智能。因为我是典型的超人类主义者：我想用技术改变自己，这样I能做得更多。

因为我个人想要学习、思考和行动，而不是让机器代我学习、思考和行动。在这种世界观中，人工智能并不有趣，只是作为一种权宜之计，用来更快地解锁超人类主义的科技树（当然，技术本身也有自己的计划）。

现在，技术的发展轨迹已经摆脱，使我们更接近通用人工智能而非超人类主义。但撇开可实现性不谈，我觉得“通用人工智能的未来”似乎比“超人类未来”（更明确地说：超人类，但人类后裔）更受欢迎，这令人惊讶且令人沮丧。

我曾以为“成为神祇”比“建造一个仁慈的神来统治我们”更有吸引力。

这让我对人类变得更加愤世嫉俗。大多数人不想成为更多、做更多、了解更多。他们想看Netflix然后死去。他们想要的是文化：一个由人工智能运行的无限假期，他们会在几个世纪内消费内容，然后因无聊而自我安乐死。

当你告诉他们AGI意味着无权力、未来封闭、放弃自主权时，他们根本不在乎。选择和自主对他们来说是负担。他们想在所有维度中死去，唯独不在感官维度。

穿着尿布的黑猩猩，被机器照顾。

这既可悲又令人鄙视：出卖人类的天赋权利为了一大堆酒.

我梦想的未来是我们有选择成为更多：看得更多，活得更多，知道更多，做更多。创造奇妙的事物。一个艺术和科学属于我们的世界，就像古典大师对黑暗时代粗糙货币的关系一样。

不是那种执着、不妥协、抽象的单一文化，比如LessWrong功利主义（用合成大豆饲养虾的喜乐元素铺平宇宙），而是一个多元的未来，人类在各个尺度上，从原子到星系，基线人类可以在星光下耕作土地，在蒙有套娃脑的海洋中游泳;用有思维的玻璃，有灵魂的玻璃。

人类辐射成无尽的美丽形态——冲击天堂，废除死亡——以及以地球为中心的生命物质球体，在宇宙中扩展，将陨石坑的岩石和冰化为海洋和花园，将死去的物质化为生命，为死寂的世界注入生命——将整个宇宙变成一座花园——”以及沙漠中的河流”.在关于人的尊严演说,乔瓦尼·皮科写道：“[上帝]已经用智慧点缀了超天区，注入了不朽灵魂的生命。”我选择将其解读为预言：”天是你双手的工”.

但我们不必背叛自己。另一条路存在，当我们准备好时它就已准备好。更美好的未来是我们停止构建ASI，加速超人类主义，让我们自己能够生活在未来，而不仅仅是我们的创造物。