Moonshot的Kimi K3:或许更多关乎内存而非算力


7月18日,上海世界人工智能大会(WAIC)期间,Moonshot AI展台前摆放着Kimi的标志。
2025年初,当DeepSeek的R1正式亮相时,由于市场担心人工智能所需的算力将低于此前预期,近6000亿美元在短短一天内便从Nvidia Corp.的市值中被彻底抹去。而Moonshot AI推出Kimi K3时,星期五触发也遭遇了类似的反应, 这进一步推动了半导体股大幅走低。
然而,这种对比或许忽略了一个重要区别:尽管Kimi K3等模型旨在更高效地利用计算资源,但其运行仍需要海量内存支持——这一动态趋势有望持续支撑包括SK Hynix Inc.、台湾积体电路制造公司以及Nvidia Corp.在内的多家企业的需求。
Kimi K3拥有2.8万亿个参数,是迄今为止中国规模最大的模型,其稀疏度比也创下历史新高。 更高的稀疏度意味着,在模型总规模不变的情况下,每项任务所激活的参数数量更少, 从而使得每条token的计算效率更高。
参数不过是存储在内存中的一个数字。即便在采用更低精度的数据格式对模型进行压缩后, Kimi K3的参数依然占据了约1.4太字节的内存空间。 Kimi K3的普及本身也将催生对高内存需求的硅基升级需求,例如Nvidia的Blackwell GB300。计算是一项反复出现的运营成本,且随着用户请求的增加而不断攀升。 相比之下,内存是一种必须提前部署的基础设施,它让众多用户能够随着时间的推移共享同一套硬件设备。
阅读更多:中国“登月计划”计划在人工智能突破后六个月内首次公开募股
另一项里程碑即将到来。7月27日,Moonshot计划公开发布Kimi K3的模型权重,使各企业得以自行运行该模型,而非通过Moonshot的云服务来获取。 虽然该软件将免费提供,但若想大规模部署该模型,企业仍需配备充足的AI硬件。
与此同时,阿里巴巴集团控股有限公司也在周末发布了Qwen 3.8-Max 预览,这款模型拥有2.4万亿个参数,与前沿领先模型并驾齐驱——不过目前尚未公布基准测试结果。 随着中国AI开发者日益将模型定制化以适配本土芯片,中国的硬件生态系统或将从中获益。 这一乐观情绪促使中国科技板块的创业板指数在周一一度上涨达3.6%。
综合来看,这些新发布的成果表明,先进AI模型领域的竞争正从OpenAI和Anthropic PBC等美国前沿实验室延伸至更广阔的范围。 这可能会对美国模型提供商的价格谈判能力施加压力,同时继续推动对运行日益强大的AI系统所需基础设施的投资。