我从有效利他主义中获得了什么

这是我从这些想法集群中获得的核心内容系列文章的第一篇有效利他主义（EA）作为套餐提供。EA已经是推向全国聚光灯下，我与它公开合作已经有五年了，之前十年我一直在远处潜水。

这就是我想对一位聪明朋友说的话，他想知道与EA的高层次交易，超越推销说辞，但没有任何行话。这篇第一篇文章是对EA关于世界大故事的非常高层次的解释，以及为什么我认为它有用，但这只是众多心理工具中的一个。

我想向大家解释蚊帐、动物福利和人工智能之间的潜在联系。

有效利他主义的世界故事

有效利他主义的核心故事讲述了关于世界的，这在“溺水儿童”思想实验中早已存在，许多运动正是由此发展而来我们行善的方式，无论是通过捐赠还是事业，往往强烈取决于我们认为什么能让我们获得社会地位或其他帮助我们进步。

有充分理由相信我们更高层次的思维方式进化是为了帮助我们赢得社交游戏所以当我们开始寻找“如何做好事”时，实际上我们是在捕捉不同事业周围微妙的社会氛围，试图弄清那些“善良”（通常指高地位）的人在做什么、信仰什么。

这本身并非坏事或无用。地位系统传递了大量有用的信息。社会常常赋予事物地位，因为它们确实有用，只是无法以能清晰表达的方式告诉每个受我们赋予地位拉扯影响的人。

所以社会地位的行为很像市场，数十亿人的行为共同决定不同事物获得多少地位，而没有任何中央计划者做出最终决定。我们做好事的倾向实际上是对这些市场激励的反应。

这是好事！它让社会运转，帮助我们共同生活，也常常帮助我们回应那些无法通过直接论证清晰表达的微妙人类需求。当我说地位像市场时，我的意思是市场极其高效，地位并不总是坏的。

我们给朋友们的地位并不是无意义的进化杂音，就像当地面包师为一个杯子蛋糕赚的钱并不是制作过程中发生的全部故事一样。

但像任何市场一样，这个市场也有深刻的失败和错失的机会。我们对行善的认知是为我们进化出来的早期人类小群体而建，他们无法在远离他们的地方产生实质性影响。

我们现在生活在一个拥有超过80亿人口的高度全球化世界，通过向合适的地方捐款，几乎可以影响他们中的任何人。我们还拥有令人难以置信的科幻式对世界的控制，甚至能让整个地球沐浴在核火中。

除此之外，我们现在每年养殖数千亿只动物。尽管我们强烈的进化直觉认为世界大体会保持我们成长时的样子，但过去200年见证了不断且前所未有的技术变革，而不久的将来可能会带来颠覆我们安全、至少和80年前核武器一样严重的新技术。

在这种环境下，我们对善良和地位的进化直觉比以前更为直接，用来判断我们究竟能在哪里做最多的善事。完全依赖它们，因为它们感觉正确、正常且美好，且从不愿意推翻立刻觉得有美德或同龄人（或更广泛的社会）鼓励你做的事情，至少看起来是一种不严肃的生活方式，一种没有充分思考我们所处处境地的方式。

这更像是一种假装游戏。EA是我试图更认真思考伦理、复杂化我对“善”的理解的众多方式之一。

我喜欢用两个思维方式来比喻序列处理与并行处理。在序列处理中，你一步步跟随逻辑从前提到结论。在并行处理中，你“感受它”。你捕捉到世界中微妙、难以言喻的方面并做出反应。

当你做数学或物理题时，你是在连续思考。当你捕捉到社交信号或感觉自己处于危险中时，你是在并行思考。我们的大多数思维实际上是两者极其复杂的混合。

重要的是，我们并没有真正进化到能够进行持续、彻底的序列思维而不容易被并行处理的氛围打乱。一步步思考对认知的要求要高得多。

正如丹尼特在意识解析:

有意识的人类大脑或多或少是串行虚拟机，但效率低下地在进化为我们提供的并行硬件上实现。

在进化环境中，连续思考道德可能并不实用。社会凝聚力关系生死攸关，依赖于群体成员不会随机产生某种看似合逻辑、正确但不符合群体需求的想法。

我们想在同龄人面前显得有美德的愿望被高度选择，尽管这对更广阔的世界影响有限，而我们本来也无力影响。进化如何选择那些“对世界有益”远超我们的事物？

当然，我们的道德直觉也随着社会的演变而演变。现代人的道德直觉与数千年前的人截然不同，这绝非巧合，这些直觉与许多非常复杂的行为方式相契合，这些都使复杂社会运作得异常良好。

我们对陌生人的普遍尊重和良好对待，以及与远离我们网络、远离我们网络的截然不同人群进行贸易和受益的能力，是人类历史上相对新颖且奇迹般的发展。

但社会已经发生了变化，并且在不断变化，以至于即使是我们更新的道德直觉，也常常无法区分我们对世界能产生截然不同程度的影响。

它们对于我们这个高度全球化、高度技术化的环境来说仍然过于直白。

回到有效利他主义，这是它讲述的世界核心故事：

我们对伦理和应做的思考，往往高度依赖于什么能带来社会地位。这不一定是坏事，因为社会地位就像一个复杂的市场，既能传递大量有用信息，也能激励大量亲社会行为。

但这个市场很可能出现巨大失败，在某些地方它严重误判了我们本可以做的最大善事，因为我们的道德直觉最终来自一个截然不同的情境，那时我们生活在一个我们大多无法影响的狭小紧密群体中，而不是在一个拥有80亿人口、每个人只需简单捐款就能影响地球另一端生活的世界。

而我们的道德直觉和地位体系进化以适应我们不断变化的局势过去几百年世界变化如此迅速，以至于我们对自己能做什么的道德认知和实际能做的事情之间可能存在巨大差距。

还有许多其他严肃的信仰体系和研究世界的方式，在寻找真理方面取得了惊人的成功（包括看似道德真理的），我们应该尊重它们（EA的人们对科学和哲学共识非常尊重存在的共识）。

但我们所处的新世界如此奇异且广阔，人们极不愿意一步步思考如何行善，因此其他道德市场的失败很可能依然存在。我们应该尽力去寻找它们，比较它们，并采取行动，找出最好的。

更具体的

很少有人会一步步思考自己整体的做法。

我们对自己和世界的核心信念很多出乎意料地浅薄.最让人谦卑的经历之一，就是坐下来拿着空白的谷歌文档，试图详细说明对你很重要、指导你生活很多的信念，或者你最终想做什么，或者你的人生规划，或者你为什么捐助慈善机构。

你以为自己“经常思考”的事情，可能只是你在超市里反复在脑海里重复的几句口号。我们自己的思维对我们来说相当晦涩。我们常常以为自己在做从前述到结论的连续思考，关注我们关心的问题，实际上只是沉浸在反复思考简单口号带来的温暖地位光辉中。

我自己“认真思考经济学”的很多时候，更像是我漫不经心地想着“市场传递信息。哈耶克！我真聪明”，然后在Trader Joe's排队时感觉很开心。

我最受欢迎的帖子基本上是一篇关于我们在学习世界时如何这样做以及如何避免这种情况的长时间沉思。

如果你把世界看作一系列理性、深思熟虑的决策，行为者仔细权衡每一个权衡，这就说不通了。但如果你认为人类社会主要受社会地位市场引导，我们的行为和思维强烈被吸引到让我们觉得自己做或相信正确的事情，而对自己所做的事进行细致且不愉快的思考则更加繁琐和不愉快。

当我们一步步思考时，经常会遇到自己的失败、缺乏知识或严肃性，这些都是我们大脑天生要避免的。

但这样做往往也会带来意想不到的有用见解。

有许多连续思考世界的方式（我最喜欢的是物理和分析哲学），这些方法在颠覆我们长期以来的道德和事实信念、引导我们走向更好的行为或更深层次的道德真理方面取得了惊人成功。

EA的具体目标是发掘那些最重要的、尚未发现的观点，那些在我们必须面对各种不确定理由后看起来非常优秀的，只需我们一步步思考如何在这个新科幻世界中与我们所重视的东西相协调地生活。

现在正是回到溺水儿童论点的好时机，呼吁给予全球慈善更多。以下是彼得·辛格最初写下的论点：

我首先假设因缺乏食物、住所和医疗而导致的痛苦和死亡是坏事。我想大多数人都会同意这一点，尽管人们可能通过不同途径得出相同的观点。我不会为这种观点辩护。人们可以持有各种怪异的立场，也许从其中一些观点来看，饥饿致死本身并不坏。反驳这些观点很难，甚至不可能，因此为简明起见，我今后将此假设视为被接受。持不同意见者请阅读further.My下一点是：如果我们有能力阻止坏事发生，且不因此牺牲任何同等重要的道德价值，我们就应该在道德上去做。我说的“不牺牲任何同等道德重要的东西”，是指不导致其他同样糟糕的事情发生，不做本身错误的事情，也不促进某种与我们能防止的坏事同等重要的道德善。这个原则看起来几乎和上一个一样无争议。它只要求我们防止坏事，促进善事，且只有当我们能做到这一点而不牺牲从道德角度来看同等重要的事物时才要求我们这样做。我甚至可以在论证孟加拉紧急状态的应用中加以限定：如果我们有能力阻止非常糟糕的事情发生，同时不牺牲任何道德意义，我们就应该在道德上去做。这一原则的应用如下：如果我走过一个浅水池塘，看到一个孩子溺水，我应该涉水把孩子拉出来。这意味着我的衣服会沾满泥，但这无关紧要，而孩子的死亡则可能是一件非常糟糕的事情。刚才提到的原则看似无争议，其实是具有欺骗性的。如果它被付诸行动，即使是其有条件的形式，我们的生活、社会和世界都会从根本上改变。因为该原则首先不考虑距离或接近。无论我能帮助的人是离我十码远的邻居孩子，还是远在一万英里外我永远不会知道名字的孟加拉人，这在道德上毫无区别。其次，原则不区分只有我能做任何事的情况，和我只是数百万处于同样境地中的一个。我认为我不需要为拒绝考虑距离和距离的观点辩解太多。一个人在我们身边，以便我们与他有个人接触，这可能使我们更可能帮助他，但这并不意味着我们应该帮助他，而不是帮助一个恰好更远的人。如果我们接受任何公正、普遍化、平等等原则，我们不能仅仅因为某人离我们远（或我们离他远）就歧视他。诚然，我们可能比远方的人更能判断需要做什么来帮助身边的人，甚至提供我们认为必要的帮助。如果真是这样，这就应该先帮助身边的人。这曾经可能是我们更关心自己城镇贫困者而非印度饥荒受害者的理由。不幸的是，对于那些喜欢限制道德责任的人来说，即时通讯和快速交通已经改变了局面。从道德角度看，世界发展为“全球村”对我们的道德状况产生了重要但尚未被认识的改变。由饥荒救济组织派遣或常驻饥荒地区的专家观察员和监督员，几乎能像我们把援助送到本地人一样有效地将援助引导到孟加拉的难民。因此，基于地理理由歧视似乎没有任何合理理由。摘自饥荒、富裕与道德

这个思想实验，除了其他方面，也是一种让你清醒，进入我们所处的高度全球化世界的方法，摆脱那种仍然强烈的道德错觉——我们生活在小型狩猎采集群体中，只能影响眼前的人。

实际上，我们每个人面前漂浮着无数无形的杠杆，我们随时可以拉动它们，每个杠杆对他人的生活都有影响，有些则影响着难以想象的巨大。

这些杠杆在我们周围的地位游戏中未被察觉，有时甚至被为跟上现代而出现的更复杂、更细致的伦理体系察觉不到，因为世界发展太快，大多数人无法直观地感知它们现在能产生多大真正的影响。

其中一个杠杆是向特定的疟疾慈善机构捐款，这些慈善机构大约每捐赠5000美元就能可靠地防止一起死于疟疾。

这个事实，我们每个人都可能用一小部分年收入来拯救真实人的生命（美国家庭的中位数年收入为87,000美元），乍一看，这似乎是众多道德主张中的一个有趣，但仔细思考其含义后，我们的许多行为看起来有些荒谬。

例如，俄罗斯持续入侵乌克兰是一场难以想象的灾难，自战争开始以来约有60万人丧生。我不想贬低发生的事情，明确一点，我并不是说“这场战争的钱应该捐给慈善机构”。

相反，考虑一下我任教的学区（费尔法克斯县，公认是全国最大的学区之一）的预算是每年约40亿美元.60万 x 5000美元 = 30亿美元。所以弗吉尼亚费尔法克斯县的政客们可以聚在一起说：“大家好，我们将把你们缴纳给学校系统的税收翻倍，持续一年，这会很多，并将全部捐给抗疟疾和类似有效的慈善机构，但通过这样做，我们的一个县将防止一年内全球范围内发生的乌克兰战争死亡。”如果美国一个县有机会通过一年内的一项政策改变阻止一场重大战争的死亡，那将是重大新闻！

我们不会把它当作众多决定中的一个有趣决定。“哦，这个随机县本可以阻止整场战争的死亡，但他们选择不这么做。他们想专注于基础设施建设！”那会相当震惊。

然而，我们每个人都有这样的集体机会，而这往往鲜有人讨论。当我提起这件事时，人们常常把它当作众多有趣事实中的一个，继续过自己的生活，并为一些事情感到道德激动看起来没那么重要我认为即使是他们自己也不会认为这些问题会像他们那样重要，如果他们花时间写出这些问题与疟疾的比较。

但人们往往根本不会想到要做这些比较。如果他们认真考虑如何使用资源，我认为他们往往会得出不同的结论。我在这里的观点不是说疟疾是每个聪明人都必须关心的重大事业，而是这证明了许多人除非被真正推动，否则根本不会迈出第一步去寻找伦理市场失灵。

如果人们真的坐下来一步步思考如何处理他们的慈善捐款，疟疾看起来会获得更多关注。它不会作为众多问题中的一个被忽视。对许多人来说，捐献抗疟疾似乎比他们能捐献的其他大多数事情更为紧迫，原因和如果能阻止一场重大战争，单一县的做法显得极其重要一样。

当然，这个思想实验存在问题。疟疾每年约有60万人死亡这也是慈善机构能预防的最大疟疾。而疟疾慈善机构的收益递减。一旦覆盖了较容易的病例，防止每增加一次死亡就变得更难，因此每条生命的成本远早于我们一年内救出那么多人之前就已经上升。

但还有很多其他方式可以花费5000美元，拯救或接近挽救生命（疟疾只是GiveWell资金来源之一）。一旦疟疾超过某个成本门槛，你可以将资金转向下一个最便宜的挽救方式，弗吉尼亚的一个县仍然能防止一年内一场重大战争的死亡。

个人，甚至大群体，随时都可以采取这样的行动，每年至少通过向合适的地方捐赠，避免一次不必要的死亡，共同避免大规模战争的死亡。

然而，这往往根本没有被提及。当人们第一次听到“有效”捐赠的基本论点，即我们应该将捐款指向那些能拯救最多生命的地方时，他们的反应往往是“这太显而易见了，为什么还需要一个特别的名字？”这看似显而易见，但几乎没有人会这样做，任何地方。

走在你居住的地方，经过人家或房屋时，问问自己：“这个人坐下来计算他们的捐款在拯救生命或做好事方面最有帮助的概率有多大？他们有没有比较过可用的选项？”对我接触过的绝大多数人来说，答案似乎是否定的，尽管花几个小时比较这些选项，可能同样的钱能改变更多真实的人的生活。

为什么不呢？为什么这种情况不会发生？

原因有很多，但重要的是要记住，大多数人并不愿意一步步思考自己的捐赠，严格遵循前提直到结论，却不先弄清楚这些结论如何融入他们对捐款重要性社会认知中的定位。

一步步思考往往很艰难，我们并没有进化到能做到这一点，甚至在规划自己的职业生涯时也常常不这样做！

如果你和人们谈论捐赠疟疾蚊帐，他们往往会很快放弃和你一起思考问题的过程，让他们的并行处理感——“这其实不是现在值得关心的酷事”。

他们会提出一些你知道他们后来不会支持的奇怪理由。他们会重复一些他们没怎么考虑过的简单口号。我一些更左翼的朋友告诉我蚊帐不好，因为“我们需要系统性的改变”，但他们却不会继续批评那些针对本地有需要者的一次性捐赠。

需要说明的是，这种情况并不总是发生。人们也会给出深思熟虑的答案，说明为什么捐赠到别处是合理的，或者干脆不捐赠。我并不是说人们对疟疾蚊帐的看法是他们意识形态沉睡的标志。

让我印象深刻的是，许多一生都受特定现代道德体系引导的人，把我们集体能够防止大规模战争死亡视为世界上其他随机事实，不会去思考这意味着我们应该如何行为，或者会当场为不捐赠有效事业找理由，而这些理由他们可能不会认同。

这再次表明，我们的地位体系可能制造了许多庞大而简单的伦理市场失败，而这些失败是当今大多数大意识形态忽视的，而这些失败可以通过应用序列思维找到，比如写出我们对可用选项的谷歌文档。

EA致力于通过序列思维寻找那些市场失败，找出哪些看起来最有前景，哪些是许多不同道德观点在事实摆在眼前后汇聚的（或者用口号形式，“用理性和证据尽我们时间和资源做最大善事”）。

寻找伦理市场失灵的另一个关键部分是，它们应从许多不同的伦理角度来看看起来可靠且良好。当你只需花几分钟仔细思考捐赠时，就应该阻止某人死于疟疾，这似乎是一个非常强有力的理由，无论你是功利主义者还是义务论者，基督徒还是穆斯林。

这并不是说宇宙中写入了某种客观道德准则，我们相信自己能找到，只是我们希望采取在多种道德体系下看起来不错的行为，而用序列思维找到“强健”的行为其实很容易，也就是说在广泛的伦理假设中明显是好的。

总结一下：EA的核心理念是，仅仅将逐步思考应用于做好事的方式（这很罕见，因为我们大多没有进化成这样，且常常被社会激励反对）就能带来新选项，这些选项看起来非常符合我们的价值观，以至于让它们被忽视在我们所做的一切中显得荒谬，人们应该迈出这一步，做一些简单的成本效益分析，分析他们捐赠的慈善机构。

当我们这样做时，常常发现我们能做的最好的事情被隐藏起来，产生的影响（比如拯救生命）往往是我们关心的数千倍，而且从许多基本道德角度来看，这些想法看起来令人惊讶地有吸引力。

所以，作为华盛顿特区的一个普通人，我每年都能可靠地防止有人死于疟疾，因为我很谨慎地比较捐赠地点。如果我没有，我的慈善捐赠几乎不可能阻止任何死亡。

如果你想了解这种序列思维在实际中的表现，一个不错的起点是8万小时问题配置文件这些文章会一步步引导你了解他们认为世界上最重要需要解决的问题。

2010年代读了很多类似的文章，试图让理性的人全面应对复杂的全球性问题，不依赖社交密码，也不盲目接受当时最酷的项目，而且是少数几个真正尝试给各种干预措施数字的地方之一，这对我的写作方式产生了巨大影响。

我把自己博客的成功很大程度上归功于我当时潜伏的博客风格。

EA的主要原因领域（全球健康、动物福利、人工智能安全、生物安全）都源于这种直觉。每个观点都基于一个合理的观点，但这些想法在社会地位上不高，因此很少被考虑，但这也有可能极其重要：

• 像美国这样的富裕国家的人们，只要向合适的慈善机构捐款，就能挽救贫穷国家人民的生命，在每美元拯救生命方面，往往远远超过本地慈善机构。
• 动物不仅仅是机械人，它们可能拥有复杂的幸福和痛苦，这些在道德上都很重要.
• 人类可以存续很长时间，所以如果我们灭绝或文明崩溃，这似乎是一个异常巨大的损失.
• 人工智能可能会在本世纪某个时候获得人类大脑大部分经济相关能力，其后果可能非常严重.（这部电影已经成为主流。）

这些都很复杂，聪明人对此持不同意见。但（尤其是对动物来说）存在非常强烈的社会偏见，甚至反对考虑它们，这也带来了市场大失败的可能性。

充其量，很多人只是“哇，真是个好主意”，然后把这些当作偶尔提起的谈资。有效利他主义思维的一个重要目标就是不这样做，不收集好点子并融入你当前的地位游戏，而是表现得好像它们真实存在，仿佛它们反映了世界上真实发生的事情，应该让你至少有所改变，并且按照你未来或过去的自己如果突然发现自己真的生活在这样的世界时，会希望你采取的行为方式。

然后理性思考还能知道和做些什么，尽力在不确定性中采取行动，而不是让它变成另一个巧妙的对话动作。

表现得好像世界存在于我们的地位游戏之外

我青少年时在夏令营工作。有一次，一个露营者过桥时突然抓住栏杆，开始喘着粗气。一位辅导员问他怎么了，孩子转向他说：“这都是真的。”

“什么？是的。”

“不，真的，就像我们现在在这里，桥上，还有这个世界。这一切都是真实的。”

我认为这是一种相对常见的经历。很多时候，世界会显得有些虚假。我们机械地过着生活的过程，看到的很多东西开始像是在做梦，或者像是在等待现实开始时的排练。

要记住每天我们遇到的那些面孔，他们的生活和我们一样复杂，可能需要努力，更别说世界上其他地方也在发生，数十亿人都在其中。有时，我们觉得生活是真实的，这一切都在发生，这种感觉会突然涌上心头，或者随着我们逐渐按照自己认为有价值的事物生活而逐渐涌现。

对于许多被EA世界故事感动的人来说，我认为一个关键的共同直觉是，一步步思考如何做好事，是让超越我们身份游戏的世界真正触及我们的方式，认真对待它真实存在于我们那些小游戏之外，并尽力弄清楚如何在一个远比我们能看到的部分更大的世界中，最有条理地与我们的价值观共存。

不要因为这与我们大脑中的社会地位探测器完全吻合而一笑置之，而是要遵循关于现实的事实，去支持我们应如何行为，尽力处理我们这个小角落之外世界的真实状态。

给事物做数字，比较远方拯救抽象人物的成本，就是把这些人当作真实存在，无论我们是否听到那个让我们同情他们的具体故事。像亲密朋友这样真实的人，可能因为你选择捐赠疟疾慈善机构而得以安享余生。

另一个动机是表现得像成年人，就像我们过去的自己希望成年人那样。“你应该仔细比较你捐赠的慈善机构，找出哪个对世界影响最大”这个想法看似理所当然，以至于大多数成年人都会这么做，但这些“成年人”大多不存在。

世界比你想象的更复杂，但也更滑稽，而它的荒诞常常通过追随“人们真的会按照自己的价值观抓住极其容易的机会影响世界吗？”来显现出来。

我还发现，很多喜欢有效利他主义的人，包括我自己，都曾在某个时刻被我们参与的道德激荡所灼伤。那些赋予我们极大意义、当时看似重要的事情，结果却成了我们和自己及周围人玩的游戏，根本无法承受太多序列思维。

甚至可能连一页清晰的从前提到结论的Google文档都无法理解我们试图做的事情。随着年龄增长，你开始寻找那些你不会后悔的事情，寻找那些让你以后能感到归属的东西。

使用序列思维不仅是为了接触世界，更是为了与过去和未来的自我有条理地生活，这有着深厚的吸引力。与你关心的某个具体事业保持距离，投入更多情感，随着时间推移，调整成你真正认为有价值的事情。

你想活着此致.

在过去十年里，世界越来越容易陷入大规模运动和道德恐慌。虽然EA本身也引发了许多奇怪的行为，但在某种程度上，它也成为了一个有用的意识形态避风港，摆脱了人们不断要求对当下事物极度激动的要求，而这种激情通常很快就会消散。

有些人发展出了奇怪的防御机制，避免被这些恐慌俘获，强烈倾向于虚无主义或表演式的残酷，以表明自己不会被心灵黑客入侵。我认为这赋予了心灵黑客来源过于强大的权力，我更愿意冷静且技术地从情感距离来评估这些说法。

这种世界观仅限于此

显然，这个故事也是极其危险的。 任何告诉你可以轻松超越本地地位游戏的故事都应该受到极度怀疑，因为人类比这个简单的故事所暗示的更加社会和地位导向，而在你的即时地位游戏之外等待你的可能会更糟糕。 这些游戏的存在部分是为了保护我们免受新的、更糟糕的社会动态的影响，这些动态可能会扭曲我们的思维，被迷人的反社会者利用，或者让我们相信限制日常生活的正常道德规则不再适用于我们。 虽然我很喜欢并且很高兴能代表大部分认同 EA 的人，但围绕着我们应该调查我们被教导的行善方式并试图通过理性超越它们的想法组织起来的松散的人们联系有时会导致一切，从愚蠢的集体思维到 彻底的灾难。这种世界观中没有任何内容可以阻止相信它的人犯下可怕的邪恶，或者被存在于这些边缘社会领域的奇怪的、无形的新身份体系引入歧途。 持有正常社会不会奖励的观点本身就可以变成一种地位象征，并成为一个自己的地位市场。 EA 在最糟糕的情况下也可能陷入 Dan Williams 所说的情况 “朴素现实主义”，我们相信我们已经上升到了世界残酷的道德真理，并且可以很容易地感知它。

因此，每当我写下我认为有效利他主义的特别之处时，我不会炒作社区。 我认为社区已经共同拯救了至少数以万计的生命，并为动物做出了令人难以置信的好事，我越来越为我们在人工智能安全方面所做的许多工作感到自豪，但我也看到继续做出可怕的决定 伤害人们的想法，以及更广泛的世界.

我一直以相当严重的认知保守主义和对抽象人类理性的警惕来对待 EA。 对我的想法影响最大的一篇文章是查尔斯·桑德斯·皮尔斯的 四项无能行为的一些后果，其中指出：

哲学应当在方法上效仿成功的科学，只从可被仔细审视的具体前提出发，并更信任其众多且多样的论证，而非任何一个论证的结论。其推理不应形成一条不比最薄弱环节更强的链条，而是一条纤维可以极其细长的电缆，只要它们足够多且紧密相连。

当EA的思维过于抽象时，我很难理解他们的观点。但我认为，如果能深入参与EA的论点，并且坦率地否定EA遇到了一些深远的伦理问题，值得得到比现在更多的帮助，或者更普遍地否定世界上关于如何做好事（甚至如何选择职业）的连续思考令人不安的观点。

我最喜欢的伦理论文之一是Evan Williams的持续道德灾难的可能性“这说明了，仅凭人类历史，我们现在很可能正处于看不见的巨大道德灾难中，正是我们常常震惊于过去的人们与之共存却未曾试图解决或多想的灾难。EA是发现这些问题并尝试付诸行动的一种特定工具，它需要被大量外部的道德和认识规则包围，以防止你陷入更危险的动态，认为自己已超越了单纯的人类社交游戏。在这里，我个人不陷入意识形态狂热的规则派上用场了。

在我看来，人类状况的一个核心悲剧是两件事同时真实：我们几乎肯定生活在并容忍那些可怕的伦理灾难中，如果我们能清楚看到它们，我们会采取行动;而试图超越社会处境去识别和解决这些无形灾难本身就极其危险，将意识形态极端主义的威胁推向了邪教群体思维，或者我们对世界的智力和情感互动的扁平化。

我认为，唯一能在道德上严肃的方式，就是试图在这些极端之间找到情感上难以置信的中间地带，允许自己为反直觉的道德论点深感困扰，并在证据和推理压倒性时采取行动，即使这违背了我们对“酷好人”行为的社会认知。

但同时也要对我们跟随这些论点时所处的社会和智力动态保持高度警惕，并在一定程度上保持距离。

我曾把有效利他主义看作一个惊人且危险的按钮。它让我的大脑有些混乱，也让我以前理所当然的伦理叙事变得复杂化，在所有可能影响我的想法中，我对自己因此做出的决定感到特别自豪，也为我与它讲述的故事达成的平衡感到自豪。

除此之外，我相信如果没有EA写作中学到的思考工具，我不会有这个博客的成功。甚至我的数据中心项目也源于一个基本的观察：将一些简单的序列思维和数学应用到一个广泛讨论的问题上（比如使用ChatGPT是否构成环境灾难如果做得好，可以让你远远超越公众辩论，因为比你想象的更多的人只是随波逐流、重复口号。

更广泛地说，我所做的捐赠，帮助那些才华横溢的人进入华盛顿特区政策领域，我至今仍认为这些领域是世界上最重要的，甚至我尝试直接、连续地与朋友交流，而不是靠社交自动驾驶，这些都清楚地追溯到EA世界故事如何打乱了我对身份和重要性的背景认知。

但我也庆幸自己没有在EA圈子里追求地位，否则会扭曲我的思维，让我对人工智能、动物或全球健康拥有过多的信心。我也见过以EA名义做出的灾难性决定，以及情感上扼杀了真正信徒中的社交动态，这加深了我自己的认知保守主义，以及我对偏离自己本来相当普通伦理的警惕。

目前，EA是众多理念中一个重要且极其严肃的中间地带，感觉是我能用它最真实的方式。我不能用它来构建生活或赋予我深刻的意义感，但我可以利用它来讲述一些关于世界的非常宽泛的故事，经过长时间的争论，偶尔会看到一个巨大的问题提前十年到来。

我绝对不能放弃基本论点，回到我那温馨的人性世界，假装从未见过它们。

我写更多关于EA的文章，并不是想让任何人更喜欢我们，信任我们拥有权力，或者给我们带来灯泡T恤并出席EA大会。相反，我希望EA中那些我认为极具价值、塑造我过去15年思考的方面，能在聪明人选择的通用智力自助餐中更广泛地被利用，来解读世界。

我希望人们能接触、被我个人从EA庞大的知识生态系统中提取出的最优秀的思维工具，而不必觉得这些工具需要赋予那些恰好进入EA前二十年内进入这群思想群的人（包括我）任何地位。

我认为如果EA的思想集群能被更多人使用，效果会更大。早期涉及这些想法的场景大多是巧合，但它也带来了关于相信自己能用理性和证据来推翻周围地位游戏、发挥最大利益的承诺与危险的致命教训。