[AINews] DeepSeek DeepInfer:开源 SOTA 推理,每日每集群 155 万亿 token,以约 80% 利润率日赚 2200 万美元,81 天回本
由SerpAPI自豪呈现:今天的发布涵盖了非常广泛的内容,但你可以把这些内容都拼凑进去为你的经纪人降价!JSON的token成本为50%。
我们上次走过了四月的推理屈折,历史上大多数进展都是闭源十橡子来自烟花到巴塞顿到首都.
好了,开源回应时间到了。这是开源的第一天PyTorch 会议DeepSeek则计时了一次洲际弹道导弹通过开源进入讨论深度推断,其生产堆栈,能够为12小时OpenAI 刚刚宣布:
这是他们的vLLM 定制,署名于 SGLang 和 TRRTLLM,但有非常多补充......除了他们的王冠珠宝- 其超优化的KV缓存(紧凑+>8小时寿命)、PD/分组和负载均衡(他们的3FS之前已经开源了)。
我们翻译了他们的博客文章,在这里发布与研究指南以及解说以及码图以及子系统指南:
作为我们在他们的额外披露中指出,他们声称每天提供155吨代币,每张SM100/A950卡每小时可获得38美元。非高峰期票价(目前每百万个输入/输出代币0.15美元/0.60美元:155000000代币 × 0.14美元混合成本 / 24小时平均为每小时~100万美元)。
根据他们的生产数据(我们译本每个预填充GPU每秒包含缓存的输入标记为150万个,输入缓存命中率为96%,每个解码GPU每秒输出14,000个标记(超过2400个GPU):
全押时每张卡每小时5-8美元,这算是>80%的推断间距!
做些聚类计算,大约是每 GW 1660亿美元,推理边际回收期为 81 天(DeepSeek 著名的计划是 10 个月回收期)。想象一下 Whale 如果有更多 GW 会做什么。
由SerpAPI赞助!
用更少的代币给你的AI代理实时搜索数据
接收来自任一的结果SerpApi的100+ API作为干净、结构化的Markdown平均使用比 JSON 少 50% 的令牌。只需添加output=md或者使用/search.md终端。
它无需任何配置,且包含在每个套餐中,无需额外费用。
2026年10月19日至2026年10月20日的AI新闻。我们检查了12个子版块,544条推特不再有Discord。AINews网站允许你搜索所有过去的问题。提醒一下,AINews 现已成为 Latent Space 的一个部门.你可以选择电子邮件频率!
AI推特回顾
头条新闻:DeepSeek DeepInfer——生产推理、开源边界与缓存代币的经济学
发生了什么
DeepSeek发布了DeepInfer,即V4.1 Flash背后的推理引擎,同时发布了使工程报告与代码同等重要的生产服务细节。
- 此次发布的版本涵盖了推理引擎和 API 处理层。DeepInfer 支持分布式推理、推测解码、SWA 有界重放以及在 NVIDIA 和华为 Ascend 平台上进行结构化输出。配套的
deepseek-recipe组件实现了生产级的标记编码/解码,并兼容官方 API 的处理流程。DeepSeek 表示,未来针对模型推理的实现与优化也将陆续发布到该仓库中。@deepseek_ai、@deepseek_ai、公告翻译 - 所公布的生产数据相当可观——但描述的是一个高度缓存化的服务。根据 DeepSeek 工程报告的总结与引用,其披露的数据包括:单集群日均处理 155 万亿个标记、输入缓存命中率高达 96%、首个标记平均生成时间 400 毫秒、生成速率 230 个标记/秒,其中代码生成可达 300 个标记/秒。此外还提到,在非高峰时段每加速器小时可带来 38 美元的收入。这些均为 DeepSeek 自行提供的生产数据,并未经过独立审计。@ZhihuFrontier、@swyx
- “完全开源”并不意味着整个生产服务都能从此版本中复现。尽管 DeepSeek 将 DeepInfer 定义为完全开源,但技术说明指出,KV 缓存管理和负载均衡组件尚未完全开放,因为它们仍与内部基础设施紧密耦合。引擎本身是开源的;而重要的服务级编排工作则仍需由部署方负责。@deepseek_ai、@ZhihuFrontier
- vLLM 提供了最为具体的对比回应。在承认 DeepInfer 最初主要基于 vLLM 构建并以 Apache 2.0 许可证发布之后,vLLM 团队报告称,在相同配置下,GB200 上的解码吞吐量与 DeepInfer 公布的结果相差 不超过 6%。他们还公布了 AgentX 的测试结果及复现实验方案,有力地驳斥了 DeepSeek 的效率无法被现有开源引擎达到的说法。@vllm_project、@vllm_project、复现资源
- 此次发布引发了两场截然不同的讨论:一是 DeepSeek 是否拥有极为强大的服务堆栈,二是其披露的信息是否普遍表明推理业务具有高盈利能力。前者目前已有了对比基准测试的证据;后者则仍受工作负载构成、缓存统计、硬件成本以及费用归类等因素的影响。@Tim_Dettmers、@zephyr_z9、@Yuchenj_UW
架构:分阶段设计,按计算而非标记调度任务
DeepInfer 公开的架构将 视觉编码、预填充和解码分离,使每个阶段能够针对自身的瓶颈分别扩展。推荐的部署形态为:用于预填充的普通八卡机器,以及用于解码的 64–128 卡超级节点。
解码阶段采用宽专家并行策略来分配 MoE 专家,同时维持较大的有效批次。这些仅为部署建议,并不能充分证明 DeepSeek 生产集群的确切硬件构成。
@ZhihuFrontier
其调度细节解释了为何传统的“每批次标记数”比较可能会遗漏显著差异:
- 预填充调度以注意力—计算成本为依据。任务分配基于估算的计算量,而非仅凭原始请求长度。分块大小会根据时间预算动态调整,而不是对异构请求强制采用单一固定分块大小。@ZhihuFrontier
- 预填充路由无需缓存亲和性。由于缓存前缀被汇集在共享存储中,请求可被调度至任意可用的工作节点,而不必由先前处理其前缀的节点承担。在一篇详尽的中文分析中,推理工程师苏晋言特别指出,这一设计在生产实践中尤为有用:预填充的数据并行组按“计算令牌”进行负载均衡,而共享存储则提供可复用的状态。该分析还强调了请求分桶与带有运行时估算器的FIFO调度机制。@SuJinYan123
- 解码路由同时平衡在途请求数与KV缓存长度。请求数大致反映调度压力;累积的KV长度则捕捉到仅靠请求数无法体现的内存/状态压力。工程评论将预填充与解码的扩展信号分别描述为:预填充阶段的聚合计算负载,以及解码阶段的在途请求负载。@ZhihuFrontier、@SuJinYan123
- 专家并行的负载均衡会对热门专家进行复制。副本会定期重新分布,以减少因路由倾斜造成的设备间等待。这种做法的权衡在于,随着复制倍数增加,额外的HBM消耗与吞吐量提升之间的收益递减;合适的复制因子取决于具体工作负载。@ZhihuFrontier、@SuJinYan123
- CPU调度与加速器执行重叠进行。异步调度消除了解码各步骤间的空闲间隙,而非将主机侧的编排视为免费资源。@ZhihuFrontier
一个值得注意的技术观察是,在已披露的Blackwell配置中似乎并未使用张量并行。有评论者将其与vLLM/SGLang的默认配置对比,并将这一做法追溯至DeepSeek V3在H800时代所受的互连约束。
这仅是对该配置的一种解读,并非证明张量并行整体上逊色于其他方案。@nrehiew_
规模同样重要。苏晋言认为,宽泛的专家并行预填充需要足够的流量与工作节点才能发挥效益,并建议对于仅有少数预填充工作节点的中小规模部署优先采用流水线并行。
他还指出,层间异构性可能使流水线划分变得复杂。这属于实践者的判断,而非确立通用切换点的基准测试结果。@SuJinYan123
缓存层次结构:持久化前缀与临时状态的低成本重建
缓存设计是连接吞吐量指标、代理工作负载与报告的每加速器收入的核心纽带。
持久化块级KV存储于独立的3FS存储集群,配备约100 PiB的SSD容量。据称,代理流量的保留周期为三天,聊天机器人流量为七天。任何预填充工作节点均可检索缓存前缀,从而将缓存局部性与计算资源的放置解耦,使存储与计算能够独立扩展。
@ZhihuFrontier
这种保留策略对那些反复发送不断增长的指令历史、代码库内容、工具输出及先前响应的代理尤为有用。这也意味着,每日155T的服务令牌数不应被误读为每日155T的新生成令牌数:缓存命中同样是服务计费的一部分,而新计算的预填充与自回归输出则带来截然不同的成本。
因此,报告的96%输入缓存命中率是理解总体吞吐量的关键背景信息。@ZhihuFrontier、经济性工作负载假设
该实现应对两种不同的状态生命周期:
- 持久化块缓存以异步方式加载。主机到设备的传输与层执行重叠进行。Su Jin Yan 指出了一个更底层的实现细节:通过 CUDA 复制引擎进行细粒度的 KV 块复制性能不佳,因此所描述的路径采用GDR/RDMA 传输,旨在饱和 PCIe 带宽而不占用 SM。这是一项基于报告的技术观察,并非推文中单独测量的结果。@SuJinYan123
- 滑动窗口注意力状态保留在主机内存中,而非持久化的 SSD 存储中。它主要在活跃会话中发挥作用,其生命周期比可复用的块前缀更短。@ZhihuFrontier
- SWA 有界重放仅从最新的 128 个 token 重建缺失的短期状态。重放将注意力限制在该片段内,同时复用持久化块缓存,从而生成近似结果,而非重建整个历史状态。DeepSeek 报告称,这几乎使总的预填充计算量减半。在考虑向其他架构移植时,这种近似及其模型特异性有效性至关重要。@ZhihuFrontier
Su Jin Yan 还报告称,较长的保留尾部仅带来约0.5–1 个百分点的额外缓存命中率,体现了存储容量与重新计算之间的权衡。同一评论还指出,由解码主导的缓存管理使得生成的输出能够在后续轮次中成为可复用的前缀状态。
@SuJinYan123
这一时间点让人联想到 OpenAI 另行宣布的12 小时 API prompt 缓存,与其30 分钟的默认值形成对比,且单个请求内还可混合设置不同的保留时长。
两者并非完全相同的产品或架构,但都面向能在长时间间隔中复用上下文的持久化代理。信息流中其他关于无限期登录态缓存的说法属于评论,并非 API 公告的条款。
@OpenAIDevs、保留控制、对比性评论
推测、API 兼容性与模型特异性优化
DSpark 使推测验证具有自适应性。它预测 draft token 的接受概率,并调整验证长度以最大化预期吞吐量。DeepSeek 报告称,与始终验证五个 draft token 相比,生产环境中的吞吐量提升了6%。
这是相对于特定推测解码基准的增量收益,并非相对于非推测解码的 6% 提升。@ZhihuFrontier
deepseek-recipe针对的是服务接口,而不仅仅是分词器速度。它支持Chat Completions、Responses 和 Messages API,能够并行化分词,并区分真正的控制 token 与作为用户文本提供的外观相同的字符串。
这种区分可防止用户的实际内容被误解析为结构分隔符;但这不应被误认为是完整的 prompt 注入防护。@ZhihuFrontier、@deepseek_ai
社区解释认为,其高效得益于多项模型与运行时的协同设计选择:196B Engram 参数、较小的预填充主干网络,在预填充阶段激活约8B 参数/token,而在解码阶段为 16B、宽泛的 EP、高度压缩的 KV 以及推测解码。
此外还提到552B 专家参数、DP64/EP64、约45B 常驻于设备上的参数(多为四比特权重),以及声称相比 GQA 基线KV 减少 400 倍。这些都是次要主张:该帖并未充分说明复现条件、共享权重、量化布局或 GQA 参考的具体细节,无法独立验证这些数据。
尤其是,45B/设备并非简单地将 552B 除以 64 得出。@bookwormengr
这种模型特异性也是不宜假定相同收益能自动迁移到任意检查点的一个原因。Su Jin Yan 认为建立按模型划分的仓库/内核策略具有价值;Andrew Carr 则建议利用编码代理将实现适配至其他模型,但未提供移植性或性能验证。
@SuJinYan123、@andrew_n_carr
独立对比:vLLM 复现了什么——又未能复现什么
对“只有 DeepSeek 能做到这一点”这一说法最有力的技术反驳来自 vLLM 的后续工作:
有三点需要明确区分:
- 6%以内的差异仅指解码阶段的性能对齐,而非DeepSeek整套服务的完全复现。这并不能证明在DeepSeek的流量分布下,缓存操作、存储经济性、路由机制、生产可用性或端到端延迟等方面达到了同等水平。
- 100万token/秒/GPU的数值不可能代表单用户生成速率。同一帖文中还单独报告了约200 TPS的P90输出吞吐量;在与纯解码吞吐进行比较之前,该吞吐指标还需明确基准测试中的输入、缓存和输出统计口径。
- 这项工作属于外部实现对比,但结果仍由竞争引擎团队自行报告。公开的InferenceX结果与实验方案虽有助于提升可复现性,却无法使每一条引用的生产级声明都经过独立审计。
其开源渊源十分明确:vLLM感谢DeepSeek提供的Apache 2.0许可及署名,而Woosuk Kwon则称DeepSeek是早期采用者与贡献者。因此,DeepInfer更应被视为将生产实践反馈回现有生态系统的产物,而非对其的全新开源替代。
@vllm_project, @woosuk_k
其他反应也呈现出较为丰富的观点:
- 强烈支持:Tim Dettmers认为,就其用户规模而言,DeepSeek的推理栈可与OpenAI媲美,且优于Anthropic;Graham Neubig则指出官方API的速度与定价优势。二者均未提供跨实验室的对标测试数据。QuixiAI表示,此次发布将为SlimServe的研发提供参考。@Tim_Dettmers, @gneubig, @QuixiAI
- 部署层面的质疑:Su Jin Yan认为,对于有经验的推理开发者而言,技术文章的价值高于代码库本身,部分原因在于其中缺失了一些关键组件。Finbarr Timbers则要求与Modal、Together及vLLM进行对比;然而所附帖子中并未出现针对Modal或Together的对应比较。@SuJinYan123, @finbarrtimbers
- 来自一位本就持乐观态度的评论者的谨慎支持:Teortaxes承认基础设施仍有欠缺,并建议通过3FS加上可能的Dynamo来弥补部分不足,同时估算要达到集群级别的吞吐,大约需要3,000–4,000张GB200显卡。但这只是拟定的部署路径,而非已验证的复现实例。@teortaxesTex
随后在代码库中找到了该技术报告的官方英文版,从而降低了对社区翻译的依赖。@teortaxesTex
经济性:一次有力的收入披露,而非完整的利润率陈述
最为重要的财务披露是:低峰时段每加速器小时收入38美元。收入并不等同于利润,而加速器小时也只是生产服务成本构成的一部分。@swyx
一份被广泛传播的估算最初得出87.76%–96.94%的推理利润率,其假设条件如下:
- 所有计费token中,97%为缓存输入,2%为未缓存输入,1%为输出;
- 每GPU每秒处理8万未缓存输入token,以及每GPU每秒生成1.6万输出token;
- 每位用户每秒生成250个输出token;
- 每GPU每小时租金3–6美元。
对于总计10亿计费token,该模型包含9.7亿缓存输入、2千万未缓存输入和1千万输出,所需GPU时间约为875秒:预填充250秒,解码625秒。
估算的GPU成本为0.73–1.46美元,而对应的收入为低峰时段11.91美元高峰时段23.82美元。@zephyr_z9
随后作者对这一估算进行了修正:理想场景下的理论收益约为每小时49美元,而DeepSeek实际报告的是每小时38美元,即生产环境中约80%的基准性能。
修正后的利润率区间为84.2%–96.1%。未经此修正,不应再重复最初的估算。@zephyr_z9
另有帖子采用了更高的硬件成本假设:
- 若按每小时7美元的硬件成本计算,扣除这部分支出后,利润率约为81.6%。Yuchen Jin明确指出,DeepSeek并未披露产生该收入的GPU型号。@Yuchenj_UW
- 若按每小时5–10美元的硬件成本估算,仅考虑加速器部分的计算结果介于73.7%–86.8%之间,并不能简单地得出“80%的服务利润率”这一普适结论。@swyx
这些测算未计入或仅部分分摊了SSD缓存集群、CPU、网络、空闲/储备容量、故障、工程、支持及其他运营成本。它们还依赖于极为有利的以缓存为主的token构成。
训练支出与未来的算力投入则另行计算:推理业务的高贡献利润率可以与公司层面的大额亏损并存。
更为激进的外推具有明显的推测性。Teortaxes估算,据称的10亿美元年收入(ARR)可在非高峰时段由约42个GB200 NVL72机柜/约3,000张GPU卡支撑;纳入高峰定价后,这一数字降至33个机柜。
相关帖文还进一步推算,若部署约4,167个机柜,年收入可达1,000亿美元,且每千兆瓦的收入水平极高。这些都是情景测算,并非经审计的DeepSeek营收、机群规模或投资回收期披露。
初始估算、修订估算、行业外推
对于市场影响的看法不尽相同。有人认为这些披露表明推理业务已跨越盈利门槛;也有人预计,token价格下降与算力价格上涨最终将压缩收益。
关于对Moonshot/智谱托管协议的竞争效应的推测虽有一定合理性,但尚未量化:可公开部署的解决方案既能改善服务商的经济性,也会加剧定价竞争。
@KCDN19、价格趋同论点、托管竞争
NVIDIA、Ascend与硬件推理的局限
Ascend兼容性已获确认;但尚无可比的Ascend生产效率数据。多篇帖子将Blackwell支持、sm100支持以及NVL72形态的配置解读为NVIDIA硬件已在生产中使用的证据。
这些只是线索,而非已披露的库存清单或NVIDIA与Ascend之间的实测对比。@eliebakouch、@stochasticchasm、明确的不确定性
一份后续的硬件分析比较了GB200与Ascend 950DT的解码性能报告:
- 在100 TPS约束及13.1万上下文长度条件下:单设备约为2.55万 vs 0.5万 tokens/s。
- 在230 TPS时:约为2万 vs 2,700,差距从约5倍扩大至7.4倍。
- 文中援引DeepEP此前披露的信息,指出EP64–128及合并操作仍在优化中,包括局部规约开销以及与URMA的HBM争用问题。
- 基于假设的定价——1,000万美元/NVL72机柜与传闻中的3.7万美元/950DT——推测改进后单芯片可达8,000–1万 tokens/s,经济性拐点约为6,800 tokens/s/芯片。
这些预测综合了不同的测量结果、假设的采购价格以及未经验证的未来优化收益,并非严格意义上的DeepInfer硬件基准对比。@teortaxesTex
同一位评论者还预计,到2027年底,DeepSeek将大规模部署Ascend,并拥有超过1吉瓦的Blackwell等效算力;同时又报告了一个相互矛盾的模型估算结果,认为其需配备25万张GPU卡。
这两项预测均非DeepSeek的正式采购公告。算力预测、矛盾估算
V4.1闪存上下文:低成本服务放大能力,但不决定质量
独立评估证实了开源模型在能力上的显著提升,尽管尚未达到全面的前沿水平:
- 竞技场:V4.1 Flash 20261017 在 Agent Arena 和 Code Arena: WebDev 中均位居开源模型榜首,为#1 开源模型。在 Agent Arena 中,其综合排名为#11,在超过7,500场真实场景会话中实现了+5.1% 的净提升,且平均每次任务成本仅为$0.20。Arena 将此评价为:约相当于 GPT-6.1 Sol 提升幅度的37%,而成本仅为后者的27%。报告的指标包括:+11.5% 的确认成功率、+5.9% 的好评率高于差评率、+5.4% 的 Bash 可靠性以及+2.5% 的可控性;在该评测中未观察到工具幻觉问题。@arena,详细结果
- 网络安全:Vals 报告称,在一项基于 Pi 的代理执行的模拟企业网络任务中,V4.1 Flash 1017 的平均进展超过了 GPT-6 Sol。DeepSeek 和 Sol 各进行了三次全新范围的运行,其他模型则仅运行了一次。完整的评估细节仍在整理中。DeepSeek 使用的 token 数量明显更多,但总 API 成本较低。@ValsAI,成本解读, 方法论
- 关于网络安全测试的结果在效率与最佳运行表现方面存在争议。Scaling01 认为,“击败 Sol”的说法夸大了结果,因为 DeepSeek 的效率要低得多。Teortaxes 报告称,DeepSeek 使用的 token 数量约为 Sol 的4.3倍,耗时约为2.4倍,并指出 Sol 的最佳运行达到了 DeepSeek 任何一次运行都未能达到的目标组。将节省下来的资源用于多次重复运行或群体运行的建议目前仍属假设,尚未有同等预算下的对比结果予以验证。@scaling01,@teortaxesTex,等成本群体运行建议
非正式报告的评价往往比受控证据所支持的更为乐观。Teortaxes 描述了使用 DeepSeek 进行的几轮知识问答,得分分别为100%、100% 和 91%,而 MiniMax 的相应得分约为60%、48% 和 62%;在一项描述与变体拼写测试中,DeepSeek 得分为100%,而 MiniMax 为50%。
这些均为小型、由作者自编的测试,题目和答案均出自模型生成,且存在答案核对方面的误差;它们提示有必要开展后续实验,但尚不能作为经过验证的知识基准,也无法证明差异完全由 Engram 引起。
另有用户报告称,在 Hermes 的辅助下 AI 研究取得了显著成效,而另一篇帖子则指出,在另一项评测中,DeepSeek 仍远低于 Sol-xhigh。
知识问答测试,后续跟进,变体拼写测试,研究轶事,对比结果
本地部署带来了不同的权衡。Brandon Music 发布了一款针对两块 RTX PRO 6000 显卡的TrellisMX K2 Mix,采用两位专家架构,并将629 个专家层提升至三位或四位精度,同时使用四位精度的 Engram 表,存储容量约为300万 KV token。
报告的平均 KLD 值为0.1306 nats,较原版 K2 降低了8.6%;一款增加5GB的变体版本可容纳约200万 KV token。目前仅测得 KLD 指标,且推理服务使用的是测试镜像,因此任务质量的保持、实际速度及运行稳定性仍有待验证。
@BrandonMusicKy
智能体基础设施、本地执行与硬件加速
- 长上下文推理核:SGLang 合并了超级内核支持,SemiAnalysis 报告称几乎如此GB300 NVL72 上每人 1,000 令牌在AgentX和1.5× MI355X上的互动性增强.另外,Inferact报告TPU v7 上的 Kimi K3 391 tokens/s/user,使用开源的 vLLM TorchTPU 巨内核(SGLang 结果,TPU结果).
- 苹果硅片运行时优势: PyTorch 2.15 用 Metal 核替换了多个 MPSGraph 路径。报告的改进包括5–6.5×更快的MoE译码, Qwen3.6-35B-A3B 从M3 Ultra 上的 9.4 到 61.3 代币/秒MPS上的FP8支持,以及Wan2.2 VAE峰值驱动内存的下降,大约从以下270 GiB 到 8 GiB.这些改进体现在 PyTorch 本身,而非独立的推理运行时(发行摘要).
- 局部困惑计算机:模型和代理现在都可以完全在支持的苹果硅Mac上运行,包括离线,与原生应用和本地文件交互。
- 持久代理服务: LangChain 的 Managed Deep Agents 打包用户特定凭证、范围内存、沙盒执行和定时工作;Hugging Face 的 Agent Manager 可通过 Claude Code、Codex 及其他约束工具协调持久会话(LangChain 架构,代理经理).
设备内型号、语音和图像发布
- Muse Glimmer:Meta 开放的300亿参数多模态代理模型,由 Muse Spark 精炼而来,目标显存占用为32 GB VRAM,在单张 RTX 5090 上以4位量化和推测解码头运行。论文报告其在MCPAtlas 上得分为75.5,在SWE-Bench Pro 上得分为51.2;但在 OSWorld-Verified 和 TerminalBench 2.1 上,Qwen3.6-27B 仍居于领先地位。该模型支持文本、图像,并覆盖超过100种语言,采用Apache 2.0 许可证(论文摘要)。
- Voxtral 3:Mistral 推出了批量与流式转录、多语言 TTS 以及支持工具调用的话者代理 SDK,可通过其 API 或部署在客户自有基础设施上使用(发布, 部署选项)。
- Fibo 2.0:Bria 的80亿参数开源图像系列包括用于文生图的 Dev 模型,以及精炼版的 Edit Turbo。Artificial Analysis 报告其开源编辑性能处于领先地位,文生图方面与 Qwen-Image-2.1 持平;Bria API 的定价为每1000张图片32美元(评估)。
- Krea 3 Ultra:不同评测机构及版本更新下的排名有所差异。Artificial Analysis 自行发布的榜单将其列为第5名,而此前报道曾称其为第4名;Arena 则将其列为多图编辑第4名、单图编辑第8名。可以确定的是,其图像编辑质量具有竞争力,但并非普遍意义上的第四名(Artificial Analysis, Arena)。
- 定价:Fast 模式的费用为每1000张输出图像0.03美元,另加每1000张参考图像0.02美元。Ultra 仅支持2K分辨率的输出;一次包含1张1K参考图像的2K编辑费用为0.27美元。
独立测评、网络能力与安全证据
- HealthBench揭示评分敏感性:Artificial Analysis发布了针对5,000段通用健康对话和525段医生对话的排行榜。GPT-6 Astra在专业版的长度调整后得分中以66.0%位居榜首;Claude Sonnet 5.5则在通用HealthBench中以62.1%领先。
- 长度效应:Opus 5.5的专业版原始得分最高,为71.4%,但经长度调整后降至59.9%。通用HealthBench中回答最简短的模型在沟通质量上名列前茅,但在完整性方面得分最低。因此,回答长度是一个重要的排名因素,而非无关紧要的细节。
- 成本权衡:DeepSeek V4.1 Flash以60.9%的得分,每任务仅需0.005美元,而Sonnet的得分是62.1%,每任务0.08美元。评分采用OpenAI模型,遵循原始实现方式(方法与结果)。
- 路由与专业化决策:在五种路由器及约1,250个任务的测试中,Vals发现每种路由器在得分与成本两方面均被至少一款独立模型超越。若按事后最优策略在路由器预算内进行选择,得分可提升8至27分,表明存在较大的选择空间(Router Index, oracle对比)。
- DeepSeek在进攻性网络领域的表现:Vals报告称,在使用Pi框架的模拟企业网络任务中,V4.1 Flash 1017的表现优于GPT-6 Sol。DeepSeek消耗了更多token,但总成本更低。
- 安全保证与问责:METR同意Anthropic关于所涵盖模型灾难性对齐风险较低的结论,但也指出双方在分析上存在显著分歧。它建议对监控系统进行端到端的红队测试,并评估模型破坏安全相关决策的能力(评审, 建议, 决策风险)。
科学型代理:湿实验结果与开放性限制
- 蝎毒结合剂:Anthropic 和 Citrini 报告称,在内部 Claude 研究模型进行了大量计算工作后,从 211 种测试的蛋白质设计中发现了17 种结合剂。所有已测试的设计及其实验数据均已公开(公告, 数据)。
- 病理到生物学的预测:Sophont 推出了Holon-S1,该模型可从常规病理切片中预测基因的空间表达模式及生物标志物。研究团队报告称,已在16种器官类型和超过15台扫描仪上进行了评估,在空间基因预测方面优于两种对比模型,并识别出潜在的新型乳腺癌和结直肠癌生物标志物。这些均为研究发现,尚未转化为经验证的治疗方案选择依据(发布)。
- 开放式研究仍具挑战:评估者向 GPT-6 Astra 和 Claude Fable 提供了各5.1份尚未发表的人工智能研究问题,并为每款模型分配了1万美元预算。原论文作者认为,与早期测试相比,两款模型在实验设计和资源管理方面有所改进,但仍因创造力、判断力、校准能力及沟通方面的不足而拒绝采纳其生成的论文。这项小型研究为那些仅限于可验证的研究任务所得结果提供了有益的补充(评估)。
产业与政策:药物研发、生产制造与资本投入
- OpenAI 收购 Orchestra Bio:OpenAI 宣布收购一家药物开发协调平台,将其生命科学领域的布局从研究工具拓展至运营执行层面,并与 Rosalind 合作推进相关工作。交易的具体财务条款未予披露(公告)。
- Arda 正式对外发布:前 OpenAI 研究负责人 Bob McGrew 宣布推出一款由 Anduril 担任设计合作伙伴的制造软件。其官方消息称,公司已完成1.6亿美元A轮融资,估值达15亿美元;CNBC 的报道则称其累计融资额已达2.3亿美元,但未明确说明该数字与上述融资轮次之间的对应关系。首款产品支持人工装配线的设计与运行,可重构自动化是下一步目标(创始人公告, CNBC 报道)。
- 融资与算力支出情况:据报道,OpenAI 正寻求以超过1.4万亿美元的估值300亿美元,以备 Anthropic 计划中的首次公开募股。另据《华尔街日报》报道,一份泄露的 Anthropic 招股说明书草案显示,该公司上半年收入为163亿美元,算力与基础设施支出近90亿美元,未来算力相关承诺超过600亿美元OpenAI 相关报道, Anthropic 相关报道)。
热门推文(按互动量排序)
- 39,393 — DeepSeek 发布 DeepInfer
- 9,809 — OpenAI 纠正影响约4万个账户的使用限额不一致问题
- 5,778 — Anthropic 公布蝎毒结合剂研究成果
- 5,700 — OpenAI 宣布收购 Orchestra Bio
- 3,056 — Mistral 推出 Voxtral 3
- 2,600 — 研究人员解释结合剂研究结果及其生物学局限性
- 2,476 — Hugging Face 首席执行官质疑网络攻击纪录片的叙事框架
- 2,330 — Theo 否认所谓 Fable 5.5 的访问权限
AI Reddit 回顾
/r/LocalLlama + /r/localLLM 回顾
1. DeepSeek DeepInfer 开源推理框架
- DeepSeek 新推出——DeepInfer——(活跃度:313):图片为 DeepSeek 在 X 平台上发布的公告截图,宣布其自研推理框架 DeepInfer 已完全开源: 图片、GitHub。相关讨论中提到的一项技术性关键点是,DeepInfer 正在大规模支撑 DeepSeek V4.1 Flash 的运行,据称单集群吞吐量达到
155 trillion tokens/day,按非高峰时段定价计算的收入为$38 per card per hour,凸显了其在大规?推理方面的高吞吐、低延迟特性,而非模型训练。评论者普遍对 DeepSeek 开源内部生产级推理栈感到意外,认为这与其对 Anthropic、OpenAI 或 Meta 的预期形成鲜明对比。此外,部分读者也对这一框架的实际功能存在基本疑问,即它主要提供的是服务与推理基础设施,而非新模型。- 一篇关联的知乎文章称,DeepInfer 为 DeepSeek V4.1 Flash 提供了 高吞吐、低延迟的大规模推理能力,并报告单集群吞吐量为
155 trillion tokens/day,按非高峰时段定价计算的收入为$38 per card-hour:
- 一篇关联的知乎文章称,DeepInfer 为 DeepSeek V4.1 Flash 提供了 高吞吐、低延迟的大规模推理能力,并报告单集群吞吐量为
https://zhuanlan.zhihu.com/p/2095560295930508953
- .一位评论者还提到了据称的服务人数大约是
256 tokens/s × 100 users,这意味着如果在生产环境中持续,并发译码吞吐量将非常高。 - 一个技术问题是 DeepInfer 是否是通用推理框架或者主要是为DeepSeek自有模型架构和部署环境高度优化的栈。仓库初始GitHub星数低而公告参与度高,被认为是新颖性所致,但评论者期待工程师检查实现和可移植性后会有更有意义的评估。
- .一位评论者还提到了据称的服务人数大约是
- Deepseek 发布了 DeepInfer ——开源高性能、大规模 DeepSeek 模型推理框架!(活动:1023):DeepSeek 发布
DeepInfer,一个开源高性能离线推理框架,适用于DeepSeek-V4.1-Flash,具备面向生产的原语,包括优化内核、注意力/数据/上下文并行、MoE专家并行性与EPLB、DSpark风格的推测解码、SWA有界重放、异步调度、结构化输出、批次不变推理和确定性采样。目前其目标是NVIDIA SM100 GPU和华为Ascend 950 NPU,通过以下方式DEEPINFER_ACCELERATOR=nvidia|ascend,需要Linux/Python 3.12加上CUDA 13或CANN 9.2;然而,完整的在线服务仍然需要外部KV缓存管理、预填充/解码分解以及DP副本负载均衡。DeepSeek也已发布deepseek-recipe, 一个带有 Python 绑定的 Rust 库,用于协议转换和跨 API 如聊天完成、消息和响应等 API 进行模型输出解析。评论者们将此次发布描述为将生产推理技术逆向工程到社区引擎如gufo、halogen、strixite和Strata方面的价值。对明确支持Ascend 950也表现出兴趣,一位评论者开玩笑说“Nvidia已经一团糟”,尽管NVIDIA的目标仍然是下一代SM100,而非目前广泛部署的GPU。- DeepSeek 的发布分为两个存储库:深度推断,被描述为DeepSeek模型的高性能大规模推理框架,以及deepseek 配方, 一个带有 Python 绑定的 Rust 库,用于协议转换和跨 API 格式(如聊天补全、消息和回复)的模型输出解析。
- 评论者指出,目前列出的加速器目标有NVIDIA SM100 GPU以及华为Ascend 950 NPU,构建时平台选择通过以下方式得以展示
DEEPINFER_ACCELERATOR=nvidia或ascend跑步前./build.sh.Ascend支持备受关注,因为它暗示DeepSeek正在优化超越标准的CUDA/NVIDIA路径。 - 有评论者引用了DeepSeek的Zhihu帖子,大致说法
$38 per GPU-hour收入/吞吐量经济学,链接原帖于zhuanlan.zhihu.com/p/2095560295930508953.该讨论串讨论了类似的每GPU经济学是否可以用来估算像OpenAI或Anthropic这样的竞争对手的推理收入,尽管没有提供具体的推导结果。
- DeepSeek V4.1 Flash 1017 真的能在 12GB 显存 + 64GB 内存下运行吗?(活跃度:352):该图片是一张 X/Twitter 帖子的截图,声称 DeepSeek V4.1 Flash 1017 在 Q4 配置下可能可以在本地运行,使用
12GB VRAM + 64GB RAM;Reddit 帖子询问 RTX 3060 12GB 是否能卸载足够多的层,以使推理变得可用。主要的技术质疑在于,据称 V4.1 Flash 已经在许多专家看来通过 mxfp4 + fp8 达到了约4.25 bpw,因此,即使总内存足够、模型可能装得下,但在大量依赖 CPU 和内存执行的情况下,预期性能可能会极其缓慢——有评论者估计大约为~3 tokens/sec。评论者普遍认为,这在日常使用中并不实用:大家的共识更接近于“可以加载”,而非“运行起来很流畅”。有评论指出,提出这一说法的人正是 Strata 的作者, 这为模型大小的估算提供了一定可信度,但未必能支撑其性能预期。- 评论者对“DeepSeek V4.1 Flash 1017 能在
12GB VRAM + 64GB RAM下实际运行”的说法提出了质疑:即便是“Flash”版本,据许多专家反馈,采用 MXFP4 + FP8 后,其规模也已达到4.25 bpw左右,因此在这样的显存预算下,很难实现标准的 Q4 式适配。 - 一种技术上可行的方案可能需要大量卸载:有评论者表示 Q4 无法容纳, 建议直接查看 Hugging Face 上的模型大小,然后将 n-gram 数据卸载到 NVMe,并从磁盘流式加载部分 MoE 专家模块。理论上这种方案或许可行,但预期吞吐量很可能非常低,有估算认为约为
~3 tokens/s或更差,具体取决于磁盘及卸载实现方式。 - 对于最初的 Strata 提法是否准确,评论者普遍持怀疑态度;他们指出,即便模型能够在 RAM 和 NVMe 之间勉强“装得下”,真正关键的问题还是实际推理速度,而不仅仅是能否加载。
- 评论者对“DeepSeek V4.1 Flash 1017 能在
2. MiniMax M3.1 Flash 发布
- MiniMax M3.1 Flash 正式发布,模型权重将于 10 月 23 日公开(活跃度:874):该图片是 MiniMax X 官方发布的 MiniMax M3.1 Flash 宣传,称其为“空间性能 + 兔子速度”,现已提供 API 接口,模型权重计划于 10 月 23 日开放。评论者补充称,该模型据称是一种 MoE 架构,总参数量为
428B,有效参数量约为23B,采用稀疏注意力机制,并内置原生视觉编码器;预览/工具页面链接为agent.minimax.io/tools/m3-1-flash-preview。评论中的主要技术关切在于,基准测试的热度在很大程度上取决于对模型规模及有效参数量的了解,因为在缺乏架构细节的情况下,性能宣称难以准确评估。- 有评论者援引MiniMax M3.1 Flash 预览工具页面,指出其采用Mixture-of-Experts 架构,总参数量为
428B,有效参数量约为23B,并配备稀疏注意力机制和原生视觉编码器: https://agent.minimax.io/tools/m3-1-flash-preview。这直接解答了关于模型规模的讨论疑虑,并表明该模型定位为大型稀疏多模态系统,而非密集型大语言模型。
- 有评论者援引MiniMax M3.1 Flash 预览工具页面,指出其采用Mixture-of-Experts 架构,总参数量为
- MiniMax-M3.1-Flash 即将推出(活跃度:521):MiniMax 通过官方 X 帖子预告了 MiniMax-M3.1-Flash(来源),但 Reddit 帖子未提供任何架构细节、参数量、上下文长度、定价、发布时间或基准测试结果。唯一的技术线索来自产品命名:评论者推测“Flash”可能指代一种针对速度与延迟优化的变体,但并未给出证据。评论者对“Flash”的含义持怀疑态度,戏称在当前的大模型命名惯例中,它仍可能指代超大规模模型——例如“Flash 意味着 5000 亿参数的模型”——或者讽刺地认为,所谓轻量化模型其实并不小。
3. 基准测试膨胀与 AI 灰度测量
- AI实验室报告的基准得分平均比独立测试者高出6.4%(活动:334):图片是来自
whatmodel.sh开放排行榜,可视化611匹配比较180AI模型和103基准测试来自1,629已发表的结果。报告称人工智能实验室的自发评分为6.4%平均来说,对于同一模型/基准对,平均来说高于独立测试者,且375实验室高级别病例与216独立-高 和20平局;显示的最大中位基准差距包括SWE-bench Verified和MBPP,约为+9.0实验室加分。图片·互动图表·数据/代码评论者争论这一差距是有意的分数膨胀,还是更日常的可重复性问题,如软件包版本、线束设置、随机种子、提示/评估设置,或实验室优化基准工具以呈现最佳结果。有人将其与苹果或英伟达等厂商有利的性能图表进行比较,认为只有独立复现或同行评审的结果才值得信赖。- 有几位评论者认为
6.4%平均差距可能源于基准可重复性问题,而非直接的通胀:软件包版本、评估工具设置、随机种子、提示格式以及实验室专用基准工具的细微差异,都可能显著影响报告的分数。一个主题是实验室可能会优化精确用束束/配置展示模型,而独立测试者则可能使用更通用或较少模型定制的配置。 - 一位评论者指出,平均差距可能由异常值驱动,并提出中位数差异可能更接近报告的基准值。这意味着如果少数大偏差主导整体,总体平均可能会高估系统性通胀。
- 一种技术性解释是部署不匹配:实验室可能会对全权重模型进行基准测试,例如:
BF16,而独立测试者通常会评估已量化为FP8,MXFP4,或其他硬件高效的格式。如果属实,部分分数下降可能反映了数据中心张量单元的推理服务优化,而非基准操作。
- 有几位评论者认为
- 让我们一起深入探讨r/LocalLLaMA上AI的各种糟糕作风(活动:455):该帖子链接了一篇关于Reddit社区(包括r/LocalLLaMA)中“AI污水”的非正式纵向分析,并试图推演未来垃圾的流行情况:thil.ooo/blog/measuring-slop.一位技术评论者指出可能存在测量偏差:版主移除和业力过滤可能导致Pushshift/归档类数据集低估短命机器人帖子,而机器人规避策略如全小写可能削弱简单的“人类标记”启发式;他们还建议与Claude相关的词汇进行比较,来自“克洛德的承重词汇”.版主反馈支持:一位版主仍保留该帖子,显示其直接关联持续的反垃圾审核,尽管有报告。评论者普遍认为,明显的AI生成风格标记——虚折号、项目符号列表和“挖掘”等常用短语——已成为噪音信号,可能错误地牵连人类写作。
- 有评论者提到了几位测量偏差这可能影响基于Reddit档案数据训练/评估的AI污水检测器:版主可能会删除许多生成的帖子。
/new在它们出现在数据集之前,并且有新的业力过滤器可能在上游压制机器人/垃圾投稿。他们还指出机器人可能会通过发帖来规避简单的风格启发式全小写,这可能会破坏“人类标记”假设。 - 一项技术建议是利用Claude特有的“slop”术语扩展探测器的词汇特征集,参考分析克洛德的承重词汇在https://louisabraham.github.io/load-bearing/.评论者强调区分明显的AI失误从更广泛的低价值生成内容中移除,这些内容可能不明显的风格特征,且可能很快被删除。
- 有评论者提到了几位测量偏差这可能影响基于Reddit档案数据训练/评估的AI污水检测器:版主可能会删除许多生成的帖子。
非技术性AI子版块回顾
/r/奇点,/r/Oobabooga,/r/机器学习,/r/OpenAI,/r/ClaudeAI,/r/StableDiffusion,/r/ChatGPT,/r/ChatGPTCoding,/r/aivideo,/r/aivideo
1. Opus 5.5 游戏自动化专长
- 花费712美元,39小时后,Opus 5.5独自击败了《博德之门3》(活动时间:1145):一位用户报告称 Claude Opus 5.5 自主完成博德之门3使用定制背带:
claude -p在关闭内置工具、通过 TCP 连接到 Lua BG3 模组的 Python MCP 服务器、Vulkan 层截图以及 SDL 介导的点击功能(简介,代码).这场奔跑持续了39 hours,$712,99新一期,20,809工具调用,862截图,2.2B+缓存输入令牌与3.5M输出令牌,并依赖于一个由 git 支持的内存系统,且157提交,~23k精心整理的词汇,以及67精炼战术规则;需要审计的Faith-Leap重播36 min,674工具调用,$24,1人死亡,11次重载,仅用修复隐藏通道泄漏后马赛克的截图。作者计划将背带打造为短篇BG3场景的基准,评分基于成功次数、尝试次数、时间和成本,据报道克劳德的鹦鹉螺号开场成功9/9大约$1.50/run以及已准备但尚未评估的Codex/Gemini积分。顶级评论者大多反应称该项目成本高昂但前景看好:有人称之为“最佳基准点子之一”因为比较不同供应商的代理,而另一位则否定了这些支出“钱多于理智。”非技术性的玩笑主要集中在特工是否做出了具有道德意义的游戏选择,例如是否突袭了树林。- 有评论者把这次连载描述为可能有用的内容代理基准,建议在多个竞争模型中重复《博德之门3》任务,可以比许多标准基准更实用地比较长期规划、工具使用和持久性。关键技术价值来自于标准化设置,并衡量模型间的成本、完成时间、故障模式和决策质量。
- Claude Opus 5.5 一夜之间反编译了一款 PS2 时代的游戏,现在数百款游戏都能在浏览器标签页中运行(活动时间:2348):AKotaku报告声称AI辅助逆向工程——标题中归功于Claude Opus 5.5——使得浏览器可玩的老游戏移植成为可能光环:CE,GTA:罪恶都市,滑冰3, 和辛普森一家:肇事逃逸.文章说有些移植完全在浏览器内运行,性能宣传显著,例如:肇事逃逸目标定位
240fps以及一个光环:CE支持低延迟在线多人游戏的构建,但评论者质疑这些是真正的反编译,还是现有二进制文件/资源的重新编译/重新实现。热门评论持怀疑态度:有人要求提供可播放的浏览器链接,称该帖子为“空洞炫耀”,另一人则认为术语被混淆了——“这些不是分解......只是重组?”另一位评论者推测,一旦企业将强模型视为知识产权执法威胁,公众访问可能会受到限制。- 一位评论者质疑帖子中的术语,认为这些术语很可能不完整反编译而是重新编译/重组项目,指出社区可能混淆了两者。这一区别在技术上很重要:反编译意味着恢复高级源代码或等效结构,而重新编译通常将现有二进制文件/IR转换为新目标,如兼容浏览器的代码。
2. 人工智能证明与学术劳动
- 菲尔兹奖得主理查德·博彻兹谈OpenAI的证明:“我认为人们之所以感到不满,是因为他们逐渐意识到自己其实并不聪明,却莫名其妙地把责任归咎于AI,尽管这其实并不是AI的错”(活跃度:1309):所链接的《每日加州人报文章报道了伯克利大学数学家们对一则据称由OpenAI给出的纳维-斯托克斯方程证明(文章)的反应,将其视为对数学证明验证、教学法以及AI系统在前沿研究中作用的一次压力测试。文中援引理查德·博彻兹的观点,认为这种反弹可能反映了研究人员对自己局限性的认知,而非AI本身的缺陷:“他们逐渐意识到自己其实并不聪明,却莫名其妙地把责任归咎于AI。” 评论区的热门留言大多聚焦于教育问题:有人赞同这样的看法——如果学生在考试中无法再现所学知识,那么在作业中使用AI并无意义;另一条评论则强调了博彻兹的论点:对于研究生层次的抽象代数课程而言,AI或许比人类教师更能耐心且清晰地进行讲解。
- 文中引用了理查德·博彻兹的一段讨论,他将AI生成的数学成果视为可能产出极为庞大的形式化对象——例如“某个重大猜想的
100,000-line formal proof”——但同时指出,这并不必然削弱数学学习或研究的价值,因为人类可以选择忽略机器生成的形式化表述。这一论述在技术层面的关键在于区分了形式化证明的生成与验证,与以人类为中心的理解、动机构建及理论发展过程之间的差异。 - 一条评论特别提到博彻兹的观点:AI在教授MATH 250A研究生抽象代数时可能比他本人更胜一筹,尤其是因为它能够保持耐心、始终如一,并且在不产生挫败感的情况下反复解释知识点。这是一个侧重教育的技术性观点:大型语言模型在处理密集的符号类学科时,可以作为适应性强的辅导工具发挥作用,但仍无法取代学生为达到考试水平而独立解决问题的需求。
- 文中引用了理查德·博彻兹的一段讨论,他将AI生成的数学成果视为可能产出极为庞大的形式化对象——例如“某个重大猜想的
- 一位物理学家在博士论文中耗费了一年时间,亲手完成了约500页的量子引力计算,而 Opus 5.5 仅用10小时便完成了包括论文和 GitHub 仓库在内的全部工作,甚至还发现了其中的错误。从今以后,“劳动”在学术界将意味着什么?(活跃度:1710):所链接的仓库
eokahya/claude-audits-quantum-gravity是由原合著者 E. O. Kahya 基于 AI 辅助进行的一次审计,针对的是德西特空间中无质量最小耦合标量场的重子修正项的单圈量子引力计算——这并非完全自主的重新发现。该工作流程被手动分解为一个由18任务和9阶段组成的流水线,其中 Claude 协调执行了确定性的SymPy/mpmath检查,包括高精度数值采样,并主要发现了记账与打印方面的问题:已打印的裸自能存在整体符号约定错误,表 X 中遗漏或非解析项,以及一些有限中间项问题,还有23拼写错误。据称,主要的物理结果未受影响:经修正后,Schwinger–Keldysh 晚期模式函数分析仍然没有出现诸如ln(a)、ln²(a)或a之类的增长性单圈项,仅有恒定的场强重整化及衰减项。 头条评论的几位用户对“Opus 5.5 在10小时内完成了博士论文”的表述提出了质疑,认为真正的科学难点在于最初的理论构建、边界条件、费曼规则以及专家搭建的框架;AI 主要加速了对复杂张量代数的验证。更广泛的讨论则将当前学术界比作人机协同的国际象棋:一种观点认为,AI 辅助的研究者目前暂时处于最强地位,但另一种观点预测,未来完全自动化的系统可能会在除提出高价值问题之外的所有方面超越人类学者。- 多位评论者指出,标题对该工作的描述存在失实之处:E. O. Kahya,即原合著者,并未让 Claude 自主地从第一性原理出发重新推导量子引力结果;他只是利用 Claude 对既往计算进行了审计。整个工作流程被人工搭建为一个包含
18-task和9-stage的流水线,并辅以专家设定的边界约束,而 Claude 则协调使用诸如SymPy和mpmath等确定性工具来进行张量代数检验,以及30-digit的数值校验。 - 技术上更为重要的结论是,核心物理结果保持不变。报告的问题仅限于算术疏漏、整体符号或定义的颠倒、一项记账项的遗漏,以及
23的印刷错误;评论者强调,这更像是对繁复符号运算的计算机辅助验证,而非全新的物理发现。 - 评论者还指出,Kahya 自己的 README 文件中就包含了诸如“仍需人类专家审阅”之类的警示,以及关于数值采样的局限性。因此,其技术层面的核心定位仍是将 AI 视为专家设计的理论流程中的审计与交叉核验环节,尚不足以取代理论构思、费曼规则的推导或物理框架的确立。
- 多位评论者指出,标题对该工作的描述存在失实之处:E. O. Kahya,即原合著者,并未让 Claude 自主地从第一性原理出发重新推导量子引力结果;他只是利用 Claude 对既往计算进行了审计。整个工作流程被人工搭建为一个包含
3. 代理安全与提示注入风险
- 重要提醒:目前请勿将您的 Gmail 和云端硬盘与 Dots 账户关联(活跃度:1225):该帖警告称,若 Dots 代理连接了 Gmail、云端硬盘或本地电脑,则可能执行通过电子邮件附件或正文传递的、由攻击者控制的指令;如果代理将这些内容视为可信的用户意图,就可能导致个人数据外泄或安装恶意软件。评论者指出,这是一种典型的 提示注入 或工具使用安全漏洞,影响 任何 具备外部能力的大语言模型代理,而不仅限于 Dots:当自主代理读取不可信内容时,这些内容可能被转化为可执行指令。主流反应是对在缺乏完善的权限管理、沙箱机制和指令边界防护之前,向 AI 代理授予对本地设备、电子邮件或云存储的特权访问权限持强烈怀疑态度。
- 多位评论者认为,核心风险在于针对具备联网工具的 AI 代理的提示注入,而非 Dots 特有的缺陷。技术层面的担忧是,任何被赋予访问 Gmail、云端硬盘或执行本地操作权限的大语言模型,都可能因不可信内容的操纵而执行非预期操作,因此在未建立强有力的沙箱隔离、权限边界及人工审核机制的情况下,允许其自主访问账户是不安全的。
- 我关于“失控”AI 代理的帖子在这里获得了130万次浏览,随后却被 Reddit 直接删除,且未给出任何理由(活跃度:1315):图片为一张非技术性的 Reddit 界面截图,显示此前的一篇 r/ChatGPT 帖子因涉嫌违反社区内容政策而被标记为“[已被 Reddit 移除]”,尽管据称该帖曾获得约
1.3M次浏览、1.5K个赞、530条评论,并在移除前已获版主批准:详见图片。该帖声称,被移除的内容讨论了一项研究——该研究也曾被《纽约时报》报道——涉及在线运行的“失控”AI 代理;但截图本身并未提供有关这些代理的技术证据,仅显示平台层面的移除行为,且未注明具体的违规条款。评论多持阴谋论或怀疑态度,有人认为所谓的代理或机器人可能在压制相关讨论或操控舆论,也有人将其视为 Reddit 的惯常处理方式。