推演未来，必然走向极端

任何对长期未来的严谨思考都会导向极端的结局。从其构造上讲，它不可能得出寻常或平淡的未来图景。

所谓“严谨的思考”，意味着你拥有一个模型：一套用于表征世界状态的形式化体系，以及一个用以推动状态演化的转移函数。你将现实世界纳入这一形式化框架，然后不断“转动摇柄”，从而得到一系列相继的世界状态。这些模型可以是定性的，也可以是定量的。大多数关于未来的思考都是定性的、非正式的：人们往往基于诸如“智能”之类的模糊概念来讨论趋势。例如，你的模型可能是：

1. 目前，人类比计算机更聪明。
2. 计算机变聪明的速度快于人类变聪明的速度。

由此，你可以推导出：

1. 在未来的某个时点，计算机将追平人类的智能，并在此后超越之。
2. 在极限情形下，且在关于信息处理物理机制的合理假设之下，计算机将远远超越人类的智能。

然而，你无法断言（1）或（2）究竟何时发生。因此，定性模型只能告诉你世界会经历一系列离散的状态，却无法给出具体的时间。

定量模型通常具有更高的时间分辨率：你只需不断“转动摇柄”，直至抵达某个目标时刻t，并考察此时的世界状态。这样一来，你既可以谈论过程，也可以谈论终点。但显而易见，能够做出细致、高精度预测的模型，往往只适用于近期的未来。

然而，在一种存在论的意义上，真正重要的唯有终极的未来——这里的“终极”并非指“长期”，而是指向一个标准形式的状态：一个不再适用任何重写规则的终局状态。于是，你便持续“转动摇柄”，直到模型趋于稳定。而稳定的终局状态只有两种：天堂与地狱。要么是尖刺、冯·诺依曼探针、上传的意识以百万主观年每秒生活，星系黯淡至红外波段并笼罩于套娃大脑之中，最终归于欧米茄点；要么便是我们坠毁，归零。