不可证伪的黑盒

今天办公室的饮水机没水了，在换大桶水的时候，我盯着那个蓝色的塑料桶看了一会儿。

我刚把封口撕开，熟练地倒扣在饮水机上。我突然闪过一个念头：这里面装的到底是千岛湖运过来的天然水，还是在几公里外哪个偏僻作坊里，用自来水直接灌装、贴了个防伪标就送过来的？

按理说，如果要严格求证，我得拿去专业机构做水质化验。但现实是，我撕开膜、倒了一杯喝下去，觉得口感还行，这事儿就算过去了。我们每天都在喝这种水，但绝大多数人一生都不会去验证哪怕一次。我们不是「知道」它是真的，我们只是「选择相信」它是真的。

这种依靠默认信任来维持的生活切片，最近在技术圈里也变得越来越频繁，甚至有点魔幻。

比如用 Codex 或者各种 Harness 工具，后台给你的额度显示永远是一个百分比：5 小时内用了百分之多少，本周还剩百分之多少。但这个百分比背后到底对应多少 Token 量？上下文窗口有没有被动态压缩？调用的底层模型在高峰期有没有被悄悄降智？

你根本说不清楚。社区里隔三差五就有人发帖说「模型降智了」，或者「额度扣得比以前快了」，官方可能会回一句「服务正常」或者干脆不作声。到最后，你只能凭玄学般的手感去猜，然后继续交订阅费。

前阵子微信那边传出要做一个垂直领域的小模型，公关稿和传闻里说得言之凿凿，说这个模型早就全量跑在公众号和视频号的推荐流里了。消息一出来，很多从业者立刻开始分析这套架构有多厉害，说能在这么庞大的并发场景下跑通，技术肯定遥遥领先。

但说白了，除了腾讯内部核心团队的几个人，外界没有任何一个人能真正考证它到底跑了 100% 的流量，还是只在万分之一的灰度池里做个实验，抑或是大部分推荐逻辑依旧由传统的协同过滤撑着。大家看到「微信」两个字，再加上「大场景」的背书，信任链路就自动闭环了。

仔细想想，现代社会其实到处都是这种「不可证伪的黑盒」。

在过去，买一把椅子，你能摸到木头的质地，能看到榫卯或螺丝的结构。你付了钱，拿到的是一个物理实体，它的好坏直接暴露在你的感官之下。即使有偷工减料，拆开看一眼也就明白了。

但现在的很多服务，本质上是在向用户兜售一种「黑盒体验」。软件的后台算力、大模型的推理逻辑、推荐算法的真实权重、甚至自媒体宣称的数据背书……这些东西的验证成本极高，高到普通用户几乎无法逾越。

平台和厂商很清楚这一点。只要他们维持住表面上的体面、合理的定价，以及看起来还在正常运转的输出结果，绝大多数人就会为了省下认知成本，主动放弃追索真相的权利。

这事儿倒不至于上升到道德批判，它其实是现代商业的一种效率妥协。如果每个人每天都要验证桶装水的水质、反编译每个 API 的调度策略、审计大厂发布的每一篇技术战报，那整个社会的运转效率早就归零了。

但我自己后来想了想，这种「默认信任」如果变成一种无意识的依赖，其实挺危险的。

在消费层面，买大桶水或者买 SaaS 订阅，既然验证成本太高，那付出溢价、接受黑盒，本质上就是买个省心，没必要把自己逼成偏执狂。但在做产品、做判断、搞技术决策的时候，如果也把别人的黑盒背书当成确定性事实，那就属于偷懒了。

很多人在做技术选型或业务推演时，特别喜欢引用大厂的技术博客，觉得「某某大厂在几亿日活上用了这套方案，所以我们这么做一定是对的」。他们往往忽略了，很多公关稿和技术分享，本身就是包装出来的黑盒。别人敢用，可能是因为有极其冗余的兜底机制，或者那篇稿子只是某个团队为了年底写绩效而放出的烟雾弹。

面对不可证伪的系统，我现在的做事原则其实很简单：

生活消费上的黑盒，只要结果符合预期、没有造成直接损失，我就睁一只眼闭一只眼，把算力留给更重要的事情； 但凡涉及自己的核心系统、业务架构或者关键逻辑，只要对方是一个无法给出量化指标的黑盒，我就默认把它当成一个不稳定、不可靠的外部依赖。

不把信任建立在无法验证的承诺上，听起来有点冷漠，但这可能是我们在到处都是黑盒的时代里，唯一能保住的清醒。