达里奥·阿莫代如何传播“人择”宗教并掀起硅谷的变革？

一个人为今年早些时候与投资者和顾问的会面正值企业历史性的成功时期。但公众对人工智能的看法却极其糟糕。一位董事建议Anthropic利用其新获得的影响力，像Microsoft、Facebook及其他科技巨头在繁荣时期那样发动魅力攻势，强调人工智能对药物发现等领域的潜在积极影响。

首席执行官达里奥·阿莫代拒绝了这一想法。“过去人们就是这么做的，”据在场人士说。“这里的赌注更关乎生存。”魅力攻势从未发生，但在上个月的世界杯期间，Anthropic推出了一则电视广告，开头是一系列黑暗画面，包括一排墓碑，强调了关于人工智能的“艰难问题”的必要性。

43岁的阿莫代在引领Anthropic成为人工智能领导者和历史上增长最快的大型公司时，基本忽视了商业先例和外部人士的建议。但如今，他站在史上最伟大的科技竞赛的最前线，他对Anthropic的抱负以及他对监管和人工智能对就业威胁的看法，正日益激怒整个行业以及美国政府内部的一些人。

Amodei最近因掌控过大权力、对AI危害过于悲观，或警告开源AI的安全风险而遭到明示或Microsoft暗示的批评——开源AI与Anthropic专有模型竞争。

阿莫代即将面临其非传统领导力的新考验，他将吸引那些在近期市场波动中因人工智能股票投资亏损的公众投资者。在Anthropic首次公开募股前的几周——预计最快于九月——他将与主要资金管理人会面，其中一些人希望他“别再吓唬所有人”，正如一位曾与Anthropic会面的基金经理所说，讨论人工智能对人类构成的生存风险。

甚至一些有望从Anthropic和更广泛的人工智能热潮中获利的现有投资者，也在私下聊天中抱怨阿莫代推动的更多人工智能监管损害了他的公司和更广泛的科技界，一些投资者说。

他们说自己对阿莫代的影响很小。在投资Anthropic之前，一位硅谷投资者在笔记中写道，他认为投资公司存在一个不同寻常的风险：他认为阿莫代伊其实并不关心赚钱。

著名企业家和投资者埃里克·里斯（Eric Ries）对硅谷的资本主义冲动持批评态度，他表示与股东之间的紧张关系可能会让阿莫代在上市公司高层上“极其困难”。

里斯,了解Amodei并曾就治理问题提供建议的Amodei表示，鉴于Anthropic依赖昂贵芯片和数据中心，Amodei必须考虑如何让投资者满意。

“这赋予投资者巨大力量，因为你必须让他们满意才能持续筹集资金，”他说。“问题是：当股价下跌时会发生什么？”

本文采访的Anthropic周边人士很少能指出，除了他的妹妹兼联合创始人丹妮拉·阿莫代、他们的另外五位联合创始人以及他的妻子卡米拉·克拉克外，阿莫代有显著影响。

克拉克曾是一名科技员工和企业家，几乎没有公众知名度，但经常陪伴在阿莫代身边，包括最近的艾伦与公司太阳谷会议，并且是他的亲密顾问，亲近他们的人说。

阿莫代的领导层在Anthropic培养了一种类似碉堡的心态，这让外人感到困惑，却激发了员工的强烈忠诚。在做决策时，员工高度依赖他们自己创造的人工智能Claude，Claude拥有自己的书面章程和内部哲学家，帮助调整了它的个性。

高管们告诉其他人，他们不打算大幅增加Anthropic的员工数量——目前员工超过3000人——因为他们不想在Claude能够内部处理更多工作时裁员。

阿莫代通过长篇文章和内部Slack消息带领他的公司。他就重要的战略问题发表看法，比如开发Anthropic自有的AI芯片以及如何保护其训练下一批模型的数据中心安全，一位接近他的人士说。

但他基本上不参与许多日常管理职责，比如薪酬和重组，并且大部分公司的组织架构图与Anthropic的总裁Daniela在一起。一位主要Anthropic投资者说：“他更像是宗教领袖，而不是CEO。”

其他Anthropic投资者抱怨，Amodei似乎连经验丰富的科技专家的意见都不采纳——包括对其业务的重大威胁，比如今年与五角大楼的争端或商务部对Anthropic最先进AI模型的限制。

阿莫代对人工智能监管的倡导引发了著名风险投资家的特别批评，尤其是与特朗普政府有联系的马克·安德烈森和大卫·萨克斯。他们指责阿莫代发起“监管捕获”运动，推动诸如限制开源AI模型等规则，巩固Anthropic的主导地位并阻碍小型企业的发展。

“拥有'有德'使命的一部分是你可以为各种行为找理由，”未投资Anthropic的风险投资家比尔·格利在文本中写道。“这是监管俘获。我见过最有攻击性的。”

布拉德·卡森，前俄克拉荷马州民主党国会议员，现运营着一家由人类组织支持的政治非营利组织Public First Action，他认为阿莫代的批评者主要是“无法复制成功”的人——比如对达里奥所创造的一切深感嫉妒的Metas或安德烈森家族。

Carson和Amodei去年十一月在Amodei旧金山办公室首次讨论了Anthropic的捐赠。卡森提议保持捐款匿名，就像大多数像他这样的501（c）（4）组织捐赠者所做的那样。

“你把自己卷入了一个会有点混乱的过程，”他回忆说。但阿莫代坚持在捐款上加上Anthropic的名字，因为“透明告知我们的行为”很重要。

“我对达里奥的看法就是这样——极其有原则，”卡森说，他偶尔会在Signal频道给阿莫代发短信给阿莫代的政治动态。“我们可以像有些人一样争论这些原则是否正确，但我不认为他是愤世嫉俗或权宜之计。”

2017年11月，阿莫代在华盛顿的讲台上站立，对人群说华盛顿国家安全类型，讨论一种能够自我学习并自主行动的新型人工智能。

他说，当时阿莫代工作的OpenAI刚刚开发出一款能够掌握多人对战游戏Dota 2的程序，新的专用AI芯片将加速公司研发和构建更强大系统的进程。

当时的技术远未达到今天的先进人工智能水平，但阿莫代已经感到警惕。他戴着厚框眼镜，穿着深色夹克，表达了自己对这个新系统运行速度过快的担忧，人类“无法监督、批准，甚至可能理解”。

这些担忧从阿莫代伊起就关注这些问题。他是旧金山本地人，拥有普林斯顿大学生物物理学博士学位，曾在中国搜索巨头百度工作，随后在谷歌早期的人工智能部门工作，2016年加入OpenAI，即该组织作为非营利研究实验室成立的次年。

他拒绝了早期的招募请求，因此并非该组织众多联合创始人之一。但据七位与他共事的人透露，作为OpenAI的安全负责人，他试图更好地掌控他和同事们正在打造的强大技术。

一位知情人士表示，Amodei打破了该组织早期自由流畅发表的规范，2018年开始推动OpenAI在发表前审查研究，以防仅因某些研究被广泛了解而产生的潜在“信息危害”风险。

这些风险可能会让像中国这样的对手提前意识到人工智能的重大进展。据人士称，他表达了对中国、俄罗斯或其他国家可能入侵OpenAI并窃取其研究的担忧。

阿莫代伊经常在旧金山的公寓里用一台与Wi-Fi和外部网络隔绝的空隙电脑写备忘录。据人士称，他打印备忘录是为了与同事分享，而不是分享谷歌文档，据该人士称，他曾告诉一位同事，他拒绝前往中国，因为害怕被绑架。

阿莫代结结了关键盟友。慈善评估机构GiveWell的联合创始人霍尔顿·卡诺夫斯基于2017年加入OpenAI董事会。丹妮拉于同年与卡诺夫斯基结婚，2018年加入，担任工程经理兼人事主管。

当时OpenAI正在开发GPT-2，一种早期的大型语言模型。对一些同事来说，GPT-2仍然原始且容易出错。OpenAI 在 2019 年初的博客文章中称该模型的阅读理解“很基础”。

然而，阿莫代对人工智能系统正在构建的目标感到“惊慌失措”，他在2023年播客.在他看来，这个模型几乎能推理任何事情，只有随着更多数据、训练和能力的积累，它才会变得更好。

“我不知道自己是疯了还是有先见之明，”他说。

他的信息控制行动与圈外人士产生了紧张关系。OpenAI员工习惯于在全公司范围内的Slack频道和一个统一的代码库中分享作品。据两位人士透露，Amodei的安全团队——以及后来他领导的构建GPT-3和其他模型的团队——都将许多仓库和Slack频道私密保存。

2018年，他为OpenAI的营利部门提出了一项规则，要求寻求获得通用人工智能——在大多数任务中表现优于人类的人工智能——的公司和政府必须遵守民主和人权规范。

其他领导人反对，认为OpenAI在判断政府或企业是否遵循此类标准方面缺乏专业知识。但求婚没有通过。

阿莫代还以其他方式行使权力。一位知情的前OpenAI负责人表示，2019年安全团队因担心尚未训练的GPT-3可能是通用人工智能（AGI）而推迟了Microsoft对OpenAI的10亿美元投资。

这种谨慎让那些对OpenAI初露锋芒的商业化努力感到兴奋的同事们感到不满。

“安全团队感觉像神职人员，”那人说。

阿莫代经常与首席执行官萨姆·奥特曼和总裁格雷格·布罗克曼就谁应领导关键项目等问题发生冲突。一位前同事回忆说，阿莫代伊退回到办公室图书馆，看YouTube视频以平复情绪。

丹妮拉曾在加州大学圣克鲁兹分校学习英国文学，经常担任外交缓冲。她因在支付公司Stripe共事而认识布罗克曼，并帮助缓和了两人的关系。

她和比她大四岁的哥哥一直很亲近。“我们一直想一起拯救世界，”达里奥在他们刚开始Anthropic后不久在播客中说。

他们于2020年底离开，与五位在OpenAI工作、隶属于他们的亲密同事一起创办了Anthropic。一位当时经常与联合创始人交谈的人士表示，他们强调安全，招募志同道合的人工智能研究人员，并且因反对OpenAI和特别是奥特曼而团结一致。

“是成年人说，'这家伙会带来世界末日'，”那人说。“结果证明这是一次极其富有成效的号召。”

反对势力仍在继续。如今，阿莫代担心奥特曼和OpenAI最终可能控制最强大的人工智能系统，这让一些员工开玩笑说阿莫代患有“萨玛精神错乱综合症”——这是对奥特曼推特账号的致敬——据与这些员工交谈过的人士透露。

早期，丹妮拉和其他联合创始人还必须处理一个敏感问题：一位直接知情的人士说，当时是达里奥·阿莫德伊女友的克拉克曾讨论过在Anthropic设立自己的职位或筹集资金投资公司。

她曾在科技行业工作，包括在增强现实初创公司Leap Motion工作，与达里奥未来的OpenAI同事米拉·穆拉蒂共事。但由于克拉克与达里奥的私人关系，人类联合创始人对该计划持冷淡态度。

克拉克和阿莫黛后来结婚，她经常在私人晚宴和行业活动中陪伴阿莫黛身边，但从未在Anthropic担任过正式职位。她比丈夫更社交，拥有包括伊万卡·特朗普在内的朋友和熟人网络。

一位接近他的人士表示，克拉克现在是阿莫代“重要的稳定力量”。“他有疯狂的日子。”

Anthropic的高级管理层喜欢把Amodei形容为一座灯塔——他会把注意力转向公司，无论落在哪里，都会获得大量关注。Amodei的关注最近落在Anthropic旗下的一组经济学家身上，他们正在评估奇点的影响，奇点是人工智能系统开始自动自动发明，超出人类控制的节点。

上个月的一次会议上，经济学家们与阿莫代讨论了他们粗略数学公式的结果。缓慢奇点可能会为美国经济增长增加半个百分点，并使就业基本保持不变。

快速的一次可能使国内生产总值增加4个百分点——大幅上升——并导致失业率显著上升。他们结束后，阿莫代告诉他们他们的评价与他已有的想法相符。

“他脑海中始终有奇点，”一位熟悉他的Anthropic员工说。

人类早期的许多才华与有效利他主义有关，这是一种将理性应用于解决世界问题的思想流派。许多EA支持者认为人工智能安全是最重要的原因之一，因为人工智能可能毁灭人类。

Anthropic还获得了一些最著名的EA慈善家的早期资金支持，包括现已入狱的FTX首席执行官Sam Bankman-Fried、Facebook和Asana联合创始人Dustin Moskovitz以及爱沙尼亚科技企业家Jaan Tallinn。

早期投资者还包括其他大型科技和人工智能行业的重量级人物，如前谷歌首席执行官埃里克·施密特和谷歌DeepMind负责人德米斯·哈萨比斯。

不过，一些早期员工主要了解Anthropic是一家专注于EA的公司，却惊讶于它不仅充满了“沙发哲学家”，正如有人所说，还有许多雄心勃勃的高成就者在开发新的超智能模型。

一位与他密切合作的人士说，阿莫代本人并不认为自己是一个有效的利他主义者。“他和这些东西不太对应，”那人说。

高管们坚信开发人工智能的紧迫性和责任感，营造出浓厚的工作文化。另一名前员工表示，这种对“指数曲线不会永远持续”的基本信念，使Anthropic员工将这项工作视为“文明中难得的机会，真正抓住此刻”。

前员工表示，Amodei将这种历史使命感注入了Anthropic的人工智能开发中，从而增强了员工的忠诚度。他的主要讲坛是每月两次的公司会议，员工称之为“达里奥的愿景探索”，在会上他调出一份庞大的文档，坦率地谈论人工智能、政治、战争和社会，而不仅仅是讨论Anthropic的业务或产品。

一位接近阿莫代的人士表示，CEO之所以保持忠诚，部分原因是他对员工易于接触。“你基本上可以在Slack上和他争论，他也会以同龄人的身份善意回应，”该人说。

阿莫代和他的联合创始人还将他们对Anthropic使命的看法融入其独特的治理结构中：它是一家公益公司，意味着其使命除了赚钱外还致力于帮助社会，并且拥有一类特殊股份分配给一个由公司大部分董事会成员任命的信托。

Anthropic的增长主要源于其AI在完成复杂软件工程、机器学习和网络安全任务方面的突破性成功。这些能力推动公司今年早些时候在年营业额上超越OpenAI，外部公司最近估计Anthropic的年收入达到700亿美元。

这使得成立五年的Anthropic有望超过49岁的Oracle，尽管员工人数减少了约97%。Anthropic的主导地位威胁到了整个行业，他们担心因使用其模型而向公司缴纳持续的税款，同时也担心其可能的行为开发能与自身产品竞争的产品.

即使这看似家长式或威胁到Anthropic的商业利益，Amodei也常常坚持他关于管理AI风险的高谈阔论。

该人士表示，去年研究人员担心他们正在开发的Claude 4型号可能特别擅长生物武器的研发。Anthropic开发了一种称为分类器的特殊AI过滤器，用于标记与生物武器相关的对话，但这些分类器经常错误地标记安全对话。

而且因为规模大，运营成本也很高。当Anthropic的财务团队抱怨这侵蚀了模型利润时，Amodei反驳称分类器是出于安全考虑的必要。

阿莫代还因拒绝国防部要求允许公司人工智能“所有合法使用”的要求，以及在Slack中向员工发信息，而激怒了特朗普政府不久后由《信息报》报道这段僵持的部分归结为他拒绝向特朗普捐款或给予总统“独裁者式”的赞扬。

但随着Anthropic的发展，阿莫代也做出了对其既定原则的妥协，以确保公司领先竞争对手。

例如，阿莫代，写道人工智能应被用来赋能民主国家的情报机构，“从内部破坏和削弱专制政权”。但Anthropic也接受了卡塔尔和阿拉伯联合酋长国的威权政府投资。

“不幸的是，我认为'没有坏人应该从我们的成功中获益'这条经营企业的原则相当困难，”阿莫代写道去年在一条内部信息中。

今年年初，Anthropic更新了其负责任的扩展政策，收回了如果公司无法提前保证适当风险缓解，将不发布AI模型的承诺。Anthropic的首席科学官Jared Kaplan，《时代》杂志告诉我公司“在人工智能的快速发展下，并不觉得我们单方面做出承诺是合理的......如果竞争对手在前方猛烈领先。”

在阿莫代在Slack上发布了关于与特朗普五角大楼对峙的煽动性信息几周后，他和克拉克飞往南佛罗里达，拜访贾里德·库什纳和他的妻子伊万卡·特朗普。

据一位知情人士透露，他们讨论了库什纳的投资公司是否可能投资Anthropic等话题。库什纳没有投资。（他的兄弟乔什是OpenAI的大投资者。）

阿莫代日益灵活的另一个迹象是他愿意与埃隆·马斯克合作，后者多次与阿莫代在人工智能安全和慈善等核心理念上发生冲突。Anthropic每月向马斯克的SpaceX支付超过10亿美元用于计算基础设施建设。

与SpaceX的合作源于Amodei对增加Anthropic计算能力供应的保守态度，他承认这种做法低估了公司的需求，迫使他支付了溢价。“我们一直很擅长预测我们将建设的系统能力，但在预测经济扩散速度方面却没有那么出色，”一位与阿莫代关系密切的Anthropic高管说。

阿莫代将与马斯克及特朗普政府的交往主要委托给了包括联合创始人汤姆·布朗在内的其他高管。马斯克还会见了专注于训练克劳德模型以培养积极性格特质的人工智能对齐研究员阿曼达·阿斯克尔，一位知情人士透露，他对Anthropic并非“觉醒”感到更为放心。

马斯克后来在接受《经济学人》采访时表示，他认为阿莫代“是一个非常有原则的人”。

这类妥协让认识阿莫代十多年的人工智能研究员内特·索亚雷斯警觉起来。索亚雷斯是《如果有人建造它，人人都会死》一书的合著者，他致力于关注人工智能存在主义风险的问题。

Soares最近在加州伯克利管理着一群社交媒体创作者，负责制作与人工智能厄运相关话题的每日视频，包括“搞笑短剧”和机器人狗的视频。

索亚雷斯对阿莫代的崛起感到不安，尤其是考虑到这位Anthropic首席执行官预测人工智能的发展有25%的概率会“非常非常糟糕”。

“要参与这些争论，同时又能创办人工智能公司，需要某种类型的人，”索亚雷斯说。

本文已更新，新增了布拉德·卡森运营的华盛顿政治非营利组织名称。

Cory Weinberg 是《The Information》的高级记者，专注于人工智能和商业领域，重点关注人类领域。他常驻洛杉矶，拥有哥伦比亚商学院的工商管理硕士学位。

他可以在X频道找到@coryweinberg.您可以通过Signal拨打+1 （561） 818 3915联系他。

Stephanie Palazzolo是《The Information》的一名记者，专注于人工智能报道。她曾在《商业内幕》报道人工智能，并在摩根士丹利担任投资银行家。

她常驻纽约，联系方式为[email protected]或者在推特上@steph_palazzolo。

阿米尔·埃弗拉蒂是《信息》的执行主编，他于2013年协助创办了该刊。此前，他曾在《华尔街日报》担任记者九年，报道白领犯罪，后来又关注科技领域。

他可以通过以下方式联系[email protected]并且 位于 X 上@amir