Anthropic 创始人拒绝封禁开源模型，但主张强制安全测试

达里奥·阿莫代

硅谷领导人，包括Anthropic PBC首席执行官达里奥·阿莫代和英伟达公司首席执行官黄仁，警告政府对开放权重人工智能系统的广泛打击，以应对一项挑战美国技术领导地位的突破性中国人工智能模型。

在周一发布的一篇博客文章中，Amodei试图驳斥Anthropic支持禁止开放重量模型的说法，而开放重量模型允许用户下载和定制该技术。同时，他呼吁美国采取政策干预以放缓中国人工智能的发展，并表示所有模型——无论是开放型还是封闭型——都应在发布前进行强制安全测试。

阿莫代写道：“让我明确说明，确保毫无疑问：Anthropic从未主张禁止开放重量模型，”并限定这些模型存在风险，因为“难以设置防护措施”或“监控其使用”。

随着特朗普政府和国会努力应对中国初创公司Moonshot AI推出的一款名为Kimi K3的新开放权重模型，该模型可与Anthropic和OpenAI的产品竞争，科技领袖们也在插上他们的政策旗帜。

包括Anthropic的主要竞争对手OpenAI在内的数十家科技公司联合起来，敦促华盛顿避免限制开源模型。在信件于周五签署包括英伟达黄和Microsoft公司首席执行官Satya Nadella在内的科技行业领袖表示，开放系统有助于“使先进人工智能更易接近、更具适应性和广泛可用性”。

Anthropic尚未签署该信，这一举动导致包括前白宫人工智能沙皇大卫·萨克斯在内的一些人士称，该公司正在游说限制那些挑战封闭式人工智能公司商业模式的中国竞争对手。

在周一的博客中，阿莫代否认了这一指控，并为Anthropic不支持联盟信件的决定辩护，表示他不同意其声称开放重量模型更容易制定保障措施的说法。

阿莫代伊重申了他长期以来的立场，即开放权模型存在更大风险，容易助长网络或生物攻击。为降低这些风险，他主张加强芯片管控，采取政策打击中国竞争对手涉嫌滥用美国模型，并强制测试开放和封闭模型。

阅读更多：Nvidia与Microsoft在Kimi之后呼吁开放权重AI模型

据参议员发言人称，黄正主导支持开源的行动，预计周二将在华盛顿与情报委员会民主党首席参议员马克·华纳会面。华纳上周呼吁将前沿模型的安全性测试纳入人工智能立法框架，这是今年国会山上一系列监管人工智能提案中的最新一例。

Politico早前报道了黄与立法者的会面。

白宫科学与技术办公室政策主任迈克尔·克拉齐奥斯上周在社交媒体上表示，美国政府有证据表明Moonshot在构建最新模型时不当访问美国AI模型，引发了对美国对开放权重模型的担忧，这个过程叫做蒸馏.同一周，财政部长斯科特·贝森特提出，针对被发现从事此类行为的中国公司可能实施制裁，该做法涉及将父模型的输出作为学生模型的训练数据。

阅读更多：美国官员称Moonshot访问了被禁的英伟达芯片

Anthropic 和 OpenAI 已经被告包括DeepSeek到阿里巴巴集团控股有限公司在内的中国人工智能公司，进行蒸馏。美国政府同意分享信息，以协助打击这些违反公司服务条款的所谓攻击。

中国驳斥了其人工智能开发者不公平使用蒸馏技术的说法，北京当局也警告他们将以自己的报复措施应对美国政府对中国人工智能公司的处罚。

虽然美国的一些人工智能开发者，如OpenAI，确实提供开放权重模型，但他们大部分关注点放在向客户销售的封闭系统或专有系统上。包括DeepSeek在内的中国公司此前大量推出更实惠、开放的模型，这些模型通常落后于美国竞争对手的尖端软件，但依然提供了性价比极具吸引力的产品。

华盛顿关于如何应对登月计划的辩论正在展开，特朗普政府正准备发布一项审查尖端人工智能系统安全性的拟议框架。硅谷公司抱怨美国近期限制新模式的举措过于临时，包括对Anthropic短暂实施出口管制，导致其暂时禁用是《寓言5》和《神话5》的产品。

贝森特参与制定的一项提案正在成形，旨在创建一个独立监管机构，负责在行业参与下审查人工智能模型。该提案与谷歌DeepMind首席执行官德米斯·哈萨比斯上周提出的方案相似，哈萨比斯本周将在华盛顿与政策制定者会面，为其愿景进行游说。