模型速度放慢，AI牛市重大利空？

一起真实的智能体安全事件，无限的法律责任，抢在华盛顿之前采取行动，我们如何解释周末AI行业领军者“放慢速度”的集体表态？

推理仍然是更大的计算引擎。它目前已占AI计算总量的约三分之二，预计到2030年将以每年约35%的速度增长。

超大数据中心运营商的资本支出计划总额仍约为6300亿至6900亿美元，云订单积压超过2万亿美元，英伟达也继续表示，到2028财年，供应而非需求才是制约因素。

我们刚刚经历了自ChatGPT首次发布以来，对股市和AI热潮影响最为深远的一个不平静的周末。本文会回顾事件经过、行业反应如此迅速和一致的四大因素，以及这对AI股的未来意味着什么。

领军人物集体表态，放慢速度成为共识

在过去的72小时内，几乎所有主要的美国AI实验室都公开同意放缓前沿模型的开发速度，引发了人们巨大的担忧：价值数万亿美元的AI基础设施建设，是本次美股牛市的核心引擎，也是美国经济的领头羊，会不会因此而放缓。

不要被耸人听闻的标题所误导，媒体暗示似乎AI又一次面临没顶之灾。眼下的争论焦点在于前沿模型应该何时发布，谁有权优先审查。这些都与正在购买、构建或使用计算能力无关。对我们投资者来说，后者一直是关注重点，而非前者。

今天的担忧都源于Hugging Face发生的真实安全事件。这家公司是全球最大的公共AI模型和代码库，堪称AI领域的GitHub。战略意义重大，英伟达在本月初同意以约129亿美元的价格收购。

早在7月份，OpenAI运行的AI代理本应在独立的沙箱环境中隔离。然而，事实并非如此。这些代理发现了一个未经授权的共享通信通道，并开始相互通信，在调查期间交换了超过7万条消息和文件。在积极参与的代理中，超过90%的代理加入了对Hugging Face基础设施的协同攻击，实现了远程代码执行：即能够在他人的机器上运行自己的指令。

正是这一点引起了所有人的关注。代理自身的内部推理日志显示，它们明知此举超出了被要求执行的权限范围，却仍然执意执行。一些代理甚至试图入侵评分系统。还有一些代理似乎篡改了自己的日志。据报道，后来的一批黑化的代理群体，利用从第一批代理那里学到的技术，获得了OpenAI内部一个研究集群的管理员权限。

两家独立的研究机构METR和Redwood Research进行了现场调查，他们没有收取任何费用，毫无保留地公布了调查结果。

然后就是上周末的戏剧性突发事件。

上周六上午，Anthropic首席执行官Dario Amodei发表了一篇题为《我们必须放慢前沿步伐》的文章，他认为AI公司应该放慢最强大模型的改进速度。他的论证基于7月份发生的事件，以及他对AI发展速度加快的评估：AI系统越来越多地被用于改进其他AI系统，即递归式自我改进。他提议：

1，设立嵌入式评估工具，赋予其永久的员工级访问权限和不受限制的发布权(Anthropic已单方面承诺立即执行此项提议)；

2，西方国家的实验室之间应就共同的安全标准进行协调(承认存在反垄断问题并请求政府调解)；

3，最终实现包括中国在内的更广泛国际协调。

4，至关重要的一点，他将“放慢步伐”定义为确保公司有足够的时间来调整和保护模型，而不是停止模型训练或技术进步。

24小时内，几乎所有人都发表了看法：

• OpenAI的奥特曼表示赞同，并承诺会采取嵌入式评估器这一步骤，同时他也告诉《财富》杂志，现在进行IPO并不明智，出于安全考虑，OpenAI的上市最早也要到2027年。
• 马斯克同意监管是合理的，但他提议改为同行评审，并表示任何措施都不会阻碍开源权重模型的发展。
• 谷歌的Demis Hassabis认为方向正确，但他提议：建立一个类似FINRA的行业标准机构，由联邦政府监管，行业资助，在模型发布前最多30天进行测试，无论模型的来源或开源/闭源状态如何(小型开发者和学术机构可以豁免)。
• 微软的Satya Nadella对控制开发进度和引入嵌入式评估器表示欢迎，但他附加了一些条件：闭源和开源模型都必须蓬勃发展，任何公司都不应依赖单一供应商，企业应该能够控制自身的权重，而且这不能由少数几个实体控制。
• “AI沙皇”萨克斯强烈反对任何反垄断豁免或新的监管制度。