当语言模型逐渐擅长使用工具后，我曾经很认同这样一种观点：与其一味把语言模型做大，不如打磨出一个足够强的"认知核心"——比如十亿参数规模——剩下的事情交给工具去做就行，比如上网浏览或执行代码。我猜很多人都认同这个逻辑，毕竟很难想出一个原则上做不到的任务：只要工具调用权限给得够多，一个十亿参数的模型理论上什么都能干。举个例子，大模型知道的任何冷门知识，原则上都可以让一个十亿参数模型自己上网查、自己推理得出。

但我现在觉得这个想法完全错了，理由很简单：不依赖工具、快速自然地完成任务，本身就非常重要。

我真正想通这一点，其实是今年学羽毛球的经历给我的启发。打羽毛球时，我活脱脱就是一个"十亿参数认知核心"。教练教的每个动作我身体上都能做出来，但要在脑子里把所有要点都记住、还要串联起来执行,是很费劲的一件事。练习时我可能把一个单独的击球打得近乎完美，可一旦放到一分的对抗里就很难稳定发挥，比赛中更是完全谈不上一致性。这和那些一个动作打了上万次、早已练成肌肉记忆、能毫不费力自然发挥的人,完全是两回事。

同理，语言模型把一个事实内化在参数里、而不是靠调用工具去查，是很有意义的。第一个原因是速度：我们显然在乎响应快慷，没人愿意让模型琢磨半天、反复上网核实，只为了确保答案准确。第二个原因是，有些东西天生就更适合靠海量数据训练来学会。比如你问大家一般怎么看香巴拉音乐节，你肯定更希望模型基于全网数据给出一个综合、有见地的看法，而不是简单复述搜索结果里排前三的几条评论。第三个原因是，费力气去现查答案,可靠性天然比不上本来就知道答案。理论上不该是这样,但现实中，至少目前来看确实如此——如果每次都要重新查资料或重新推导数学过程,出错的概率就会更高，而这种误差在长链条任务里会不断累积、被放大。

一旦你认同了"把知识参数化"这件事本身有价值，你就不得不承认：十亿参数的认知核心是远远不够的。一个十亿参数的模型能装下的知识量存在信息论上的上限,而我们显然希望AI知道的远不止这些——哪怕一万亿参数可能都不够。我们希望AI尽可能了解这个世界，希望它能不断用新信息更新自己，而我们对AI能做什么的期待也只会越来越高。

总而言之：工具让小模型能做的事更多了，但那些真正追求顶尖智能水平的人，永远还是会想要更大的模型。苦涩的教训，再一次应验。

Jason Wei[@_jasonwei](https://x.com/_jasonwei)