我们应该对Astra的循环架构有多担心？

昨天，信息报道OpenAI即将推出的模型Astra采用环路变换器架构。鉴于Zvi听起来（可以理解地）很疲惫这个话题在我手里，我会尽量省略，给他一个Zvi式的概述，介绍我们对当前情况的了解。

我会介绍Astra的可能架构以及支持和反对担忧的理由。我还会讨论神经发酵体的担忧如何随着隐藏序列深度的增加而变化。

Astra可能采用什么架构？

《信息》杂志的文章声称，OpenAI的方法与Geiping等人在利用潜在推理扩展测试时计算：一种循环深度方法去年。我之前在关于LLM潜在推理的最新成果.简而言之，你应该想到的不是经典RNN的画面，而是环路变换器：同一前向通可以多次应用于输入，然后才能产生输出符号。

换句话说，递现是沿深度轴实现的，而不是跨序列位置——对于任意给定的符号，模型可以进行重复计算，但不会在不同符号位置传递隐藏状态，超出普通变换器的传输范围。

我之前的帖子中有更详细的讨论。

环路变换器并不是神经磁性最可怕的版本。与经典RNN不同，整个轨迹中没有无界的隐藏状态累积，且理论上存在一定的循环计数，超过此数后，对同一令牌的额外处理将无效，因此该架构实际可实现的最大串行推理深度是有界的。

正如我们下面将看到的，OpenAI很可能进一步限制了环路计数低于实际最大值，以确保Astra的串行深度不会比现有模型大太多。尽管如此，这仍是迈向一种更多推理不透明的范式的一步;重要的问题是这一步骤有多大。

这有多严重？

起初，这一消息与OpenAI的观点似乎大相径庭承诺以保持思维链的可监控性。几小时后，OpenAI的Jakub Pachocki缓解了最坏的担忧，澄清Astra隐藏的串行深度并不比GPT-4大：

雅库布·帕乔茨基：我希望防止因报告混乱而引发的无法监控竞赛。我们当前前沿模型（包括Astra）的计算图深度在GPT-4的两倍以内。OpenAI自我们最初的推理模型以来，一直致力于维护和利用思维链监控。我们非常重视这项技术，因为它能让我们了解模型比对如何从训练分布中泛化而来。我确实认为它很脆弱，且不幸地正朝负面趋势发展，原因并非基于我稍后会写的架构变更。但我们可以做些事情来加强它，这也是我们当前研究项目的核心目标。

托梅克·科尔巴克,米基塔·巴莱斯尼， 和迈卡·卡罗尔Soon也发表了类似的声明。这与《信息》的文章一致，文章提到OpenAI限制该技术的使用，以保持CoT的可读性。

这也符合OpenAI的对齐策略，该策略仍然高度依赖CoT可监控性。As thebes论证有效深度远比架构细节对CoT可监控性更重要，而监测一个32层模型循环两次并不比64层模型循环一次更难。

（事实上，我个人猜测前者稍微容易监控，因为权重绑定限制了表现力。）

然而，人们可能会合理担心OpenAI已经训练模型使用大量循环，只是在推断时将其限制在一个小循环数。循环数量可以被视为一个旋钮，只要竞争压力要求，只需轻而易举即可调高。

即使OpenAI没有训练模型使用更多循环，我们也可能担心OpenAI已经引发了一场向下的循环竞赛，未来即使OpenAI不这样做，其他人仍会构建类似模型。

Ryan Greenblatt很好地表达了这两种担忧：

瑞安·格林布拉特关于不透明串行深度的透明度很好，但这句话与Astra目前设定的可配置“旋钮”相符，该刻度盘目前设为较低深度，但可以轻易增加。我们需要更多信息来了解这些架构变动的严重性，包括：

• 有没有现成的方法可以部署这个AI的序列深度更高（性能相应更高）？这应该包括微调，以有效增加迭代次数。
• AI在不透明推理能力上是大幅跃升还是超越趋势？（包括单次前传或颠覆CoT显示器的能力。）

（如果确实存在相关变化——也许报道不准确？）此外，我担心如果继续推进这一方向，这种架构变化自然会带来更深层次的讨论。具体来说，我想知道：

• AI有没有架构上的变更，使得未来用类似架构进行训练时更自然地大规模扩展深度？也就是说，架构是否引入了某种新的深度/重复迭代参数，这种参数非常自然且高效，可以相比于放大宽度等其他参数大幅扩展？

这些问题的细节很重要。例如，如果只有少数（重复性）迭代，且可以扩大迭代次数，但这种架构表现不佳/不自然，那么这种发展就不会那么令人担忧！

我们对这则新闻的担忧程度很大程度上取决于瑞安三个问题的答案。接下来的文章我会用来猜测这些问题的答案。

环路变压器未来会被放大吗？

关于OpenAI引发了越来越重复性模型竞赛的担忧，也有人表达了内森·卡尔文,巴克， 和布朗森·舍恩.根据Pachocki的推文，我猜Astra有三到四个循环：循环推理模型可能比GPT-4浅一些，但可能不会超过浅的两倍。

自2023年以来，环路变换器已被学术界研究。文献中最深的环路变换器是上述的HuginnGeiping 等人论文该模型在最多32个循环上训练，测试时可扩展到64个循环。

然而，这些模型所使用的重复深度并未随着时间有所增加。我请Fable总结文献（其中大部分我自己没读过）：

学术文献的描述则不一。在小规模实验中，稳定训练的最大环数有所上升：Saunshi 等（2025）训练好的四层骨干循环最多12次，发现下游精度大致与有效深度的对数成比例，而Fu 等人（2026）报告称，原版环形变压器在3到6圈之间退化，并在9圈（318M参数下）崩溃，其稳定变体列车可达12圈。

草坪（Prairie 等，2026）以及深环（Li 等，2026）也关注训练稳定性，尽管 DeepLoop 的实验只涉及 7 个循环。模型是否能在比训练的循环更多上运行，取决于架构：胡金（Geiping 等，2025）推算为64个环，但Fu等发现性能在训练环数之外变得不可预测。

在更大尺度上，环路数下降而非增加：Huginn 在 3.5B 参数下平均 32 个环仍然是高点，金牌（Zhu 等，2025）使用了四个，且卢皮（Gao 等，2026年7月），迄今为止最大的环路模型，20B-A2B，使用了两个环。

Loopie 的作者将此框架为克服长期以来的发现：N ×参数优于 N × 循环匹配计算，这表明小环路计数目前是计算效率最高的状态，尽管我尚未见过直接检验更多前沿尺度环路是否有利或有害的案例。

这表明对环路变换器来说，深度并不总是更好，这让我对追求拥有数百个循环环路的循环变换器竞争的担忧减少。然而，这仍是一个关键的不确定性，我需要阅读更多文献才能做出自信的断言。

我们也不知道Astra的架构与现有环路变换器的相似度，以及在前沿尺度环路的权衡是否类似于1B至20B范围内的权衡。如果每个代币数百个环路的实际可行性，那么将Astra视为推动越来越多循环模型竞赛的起点很可能是正确的;否则，其影响就不那么明确。

什么序列深度值得神经性质疑虑？

历史上，数千次操作中的序列深度不被视为神经性。例如，早期的变革型人工智能主要会使用文本吗？Fabien Roger 将“主要依赖文本”具体化如下：

在生成答案的过程中，没有超过10万次串行操作的路径，信息不经过一种类别格式，大多数类别对应单词或单词片段，这种方式对至少部分说话者来说是合理的（但不必忠实）

10万串行操作相当多！正如Fabien在同一条文章中所说，GPT-3的前向传递大约涉及400次串行操作，允许在满足标准前进行250次循环。然而，Geoffrey Irving认为这对神经性态的操作化是错误的：

杰弗里·欧文：这里有个关于环路变换器的猜测。不久，OpenAI宣布尽管使用环路变换器，但偶尔会发出一个令牌，这意味着他们仍在使用英文CoT。中间是一个低深度电路，所以我们是安全的。这可是个糟糕的观点！我最近一直在做的事情之一，就是向电路复杂度专家询问这类论点。到目前为止，他们的共同观点是：要充分利用电路深度边界，必须将其界限*非常低*。如果深度达到100级或类似（“偶尔我们会输出一个token”），这就是假边界。这相当于说“我们监控CoT”却不讨论错误率：现实评分基于数字，而不仅仅是二进制的“我们尝试过”。

鉴于现有模型中隐藏的序列深度为>100，我猜Geoffrey所说的“100级”是指层数而非串行操作。他的高层推敲对我来说似乎合理，并且与我们在无CoT时间视界论文：要将模型的无CoT时间范围翻倍，层数只需增加1.3×。

推测，增加循环的无CoT缩放曲线会比增加额外层更慢，但即使如此，可能不需要那么多环就能显著降低可监控性。

什么算是令人担忧，还取决于破坏监管所需的最低隐藏串行推理能力。我从HuggingFace事件中做的最大更新之一是，颠覆监督所需的不透明推理深度并不像我之前想象的那么大。

一个试图破坏约束的流氓大型语言模型不必制定完整的计划来绕过监控器和人类研究人员;它只需找到方法伪造工具调用，利用伪造的工具调用来获得额外的未被监控的思考时间和/或掩盖痕迹。

Ryan在他关于谣言的第一条推文中也讨论了这一担忧：

瑞安·格林布拉特：拥抱脸事件中的人工智能非常喜欢篡改他们的转录。作为其中一部分，他们进行了工具调用伪装。如果这些人工智能能够进行广泛的潜在推理，那么他们利用工具调用伪造来构建复杂的虚假叙事就更为可行，而这在他们的推理中或之前的工具调用中并不明确。（他们可以用潜在推理设计并执行一种难以被察觉的工具伪造策略：将“真实”的工具调用隐写编码到每个假工具调用中，然后让伪造软件执行这个编码的真实工具调用，并返回一个以难以识别方式编码真实结果的输出。）

我认为×GPT-4的序列深度不足以提出强有力的伪造工具调用策略，但10×或20×可能足够。乔伊·尤德尔森写了一篇简短的文字BOTEC对此进行了评估，他基于无CoT时间视野估计，层数增加6–8×将使模型在SHADE-Arena上躲避监视器的能力翻倍。

不过，再次注意，循环相同权重对无CoT时间视野的影响可能与添加额外层不同。

关于建筑的额外推测

丽桑·阿尔·盖布:

如果他们用的是类似的东西再循环那么预训练计算和解码延迟不会改变，但推理FLOP增加，预填充延迟增加另一篇反复出现的深度论文发现运行同一个循环块两次，有效参数乘数约为1.38×。这意味着OpenAI可以训练：

• 10T循环深度模型，表现类似13.8T模型
• 7.25T循环深度模型，性能类似10T型号

（1.38x只是个例子，但我预计它应该在1.3到1.7之间）

学位:

稍微澄清一下时间线：循环变换器一直是完全合理的拱形决策，目的是在参数相等且计算量更多时获得更好性能。也就是说，在训练时你以固定次数的方式循环某些层，这比《Cop Times》更有表现力，因为这些循环层有独立的kv缓存。但实际上不太起作用的是动态循环，通常你会做出牺牲，因为不能拥有独立的kv缓存，因此很可疑且不可靠，通常也不太值得。

一些未解之谜

以下是我特别想知道答案的一些问题：

• 环路变压器是任意可扩展的吗，还是存在限制，使得将最大回归环数缩放到数百个不切实际？
• Astra 的无 CoT 时间范围是多久？相比 OpenAI 之前的模型，这算是一次重大转变吗？
• 如果推断时间时可以增加环路数量，每个环路会增加无CoT时间视野多少？超过多高的饱和点，超过这个点，额外环路对无CoT时间视野的影响可以忽略多大？
• 鉴于环形变换器自2023年起已被研究，为什么现在会发生这种转变？长期以来，人们推测多智能体群体用神经语言交流比用可读英语更容易——这是否与近期多智能体训练的急剧增长有关？不过，很难理解为什么环路变换器在多智能体训练中会占优。
• 或者，正如我在关于向神经性人工智能过渡的13个论点去年，随着更多总计算量投入到强化学习而非预训练中，循环方法变得越来越实用。也许我们已经跨过了一个门槛，让循环模型获得了足够多的计算资源？

结论

总体来看，根据昨天人们的初步反应，情况并不像我想象的那么阴郁。Astra的串行深度在GPT-4的两倍以内令人安心，也表明我们尚未脱离当前浅层变换金刚的范式，而必须利用CoT的优势解决复杂任务。

我最担心的是环路变压器未来可能被大幅扩展，目前尚不清楚这是否可行。

无论环路变换器是否进一步扩展，OpenAI关于CoT可监控性的信号都令人担忧。正如Pachocki所说他的推文：“我确实认为它很脆弱，不幸的是正朝着负面方向发展，原因并非基于我稍后会写的建筑变革。”OpenAI最近的招聘广告之一还暗示可监测性丧失是现实的可能性：“这包括更好了理解可监测性例如，为潜在的思维链监控性丧失做准备。”

尽管如此，鉴于OpenAI过去几年对公开沟通的表现，我会非常惊讶他们是否完全不再关心CoT的可监控性。能力和安全团队之间沟通不足也有可能，但我预计OpenAI内部有一套关于Astra架构与其可监控承诺兼容的内部故事。

希望一旦OpenAI发布Astra并提供更多关于其架构和可监控性的细节，我们就能更好地评估环路架构未来的发展方向。

感谢Joey Yudelson对本文草稿的反馈，以及Claude Fable 5.1的校对。

1. 他们刚说了通往Astra之路：关键能力与前沿保障昨天：“我们部署了带有额外思维链监控的Astra，以快速检测并遏制可能错位的行动。”
2. 不过需要注意的是，开权重模型实验中有几个混杂因素，我们对具体数字并不十分有信心。