美国企业界拥抱更便宜的“开放”AI 模型
随着IT费用不断上升,美国企业正在转向成本更低的“开放”AI模型,促使高管们寻找Anthropic和OpenAI前沿系统的替代方案。
所谓的开放权重模型,用户可以自定义并在自己的硬件上运行,对企业来说运行成本远低于付费使用最高级版本的ChatGPT或Claude。
根据研究平台AlphaSense的数据,8月和9月财报电话会议和投资者会议中高管提及的“开放权重”或“开源”模型比去年同期激增了六倍。
虽然这一转变在科技公司中最为明显,但包括PNC金融服务、物流集团CH Robinson和工业巨头西门子在内的跨行业股,近几周也在讨论使用开放权重模型。
开放权重AI市场已经变得由中国公司主导尽管法国Mistral和美国Nvidia、Reflection AI和Thinking Machines Lab也在开发类似宽松条件下的强大模型。
公开市场投资者密切关注企业客户的配置人工智能Frontier车型与无障碍级竞争对手之间的投资。
今年这些更便宜AI系统的快速改进可能威胁到Anthropic的收入增长,后者正准备首次公开募股,预计市值达到2万亿美元或更高;OpenAI则在推迟到2027年IPO后,正处于12万亿美元估值的私募融资阶段。
目前,这两个前沿人工智能实验室占据了大部分人工智能支出,其对计算能力的巨大需求支撑了支撑美国经济的数据中心建设热潮。
但来自AI供应链各组的使用数据显示,这种变化不仅仅是空谈。八月,开放权重模型占Vercel AI Gateway处理的所有代币的56%,高于十二月的7%。
OpenRouter上也出现类似趋势,中国实验室的开放权重模型主导了处理代币前十名。
Match集团旗下的约会应用Tinder首席技术官Vinay Kuruvila表示,随着应用控制不断上涨的AI成本,公司已开始将一些非技术用户的查询引导到开放权重模型。
“一月份我们每年支出达100万美元,到了七月已攀升至1000万美元......我不想再涨十倍,”他说。“像OpenAI的Astra和Claude Fable这样的前沿模型已经具备足够智能完成我们尝试完成的90%任务。如果开放权重模型赶上,我可能就不需要再用它们了。”
开放模型通常能提供与Anthropic和OpenAI所售封闭系统相当的输出。区别在于它们的底层参数——决定AI模型如何响应查询——是公开的。
这使得企业无需向AI模型开发者支付每个代币费用,即可下载、托管和微调代币。用户也可以直接从开放权重提供商处购买代币,通常价格远低于OpenAI和Anthropic,这也是DeepSeek和Zhipu等中国领先开放权重实验室公司如何产生收入的方式。
与Anthropic和OpenAI这些严密保护模型的主要商业产品不同,竞争对手开发开放权重工具时可能会免费分发这些模型,以锁定用户特定硬件或销售广告。
两家美国公司均发布了相关产品更便宜的版本上周,随着与中国竞争对手的价格战加剧,旗舰车型的上市。
这种开放权重的转移远远超出硅谷。据电信集团首席数据与人工智能官安迪·马库斯介绍,AT&T目前约40%的人工智能工作负载运行在开放模型上,目标是在一年内达到70%。
“我们每天处理450亿代币,”Markus说。“在那个规模下,成本变得非常重要。如果我们能将流量从一个超级昂贵的闭源模型转移到一个开放模式,通常能以极低的成本服务,同时保持准确性,那么我们会做到。”
推荐阅读
Markus表示,AT&T利用公司专有数据调校开放模型,使其在特定任务中表现不亚于封闭式模型,甚至更好。“开放模型越来越好,”他说。
“这给了我们更多选择权。”
对于一些公司来说,成本只是计算的一部分。数据中心运营商Digital Realty全球解决方案架构高级总监Scott Wallace表示,主权和安全同样是公司采用托管在私有基础设施上的开放模式的重要驱动力。
Wallace表示,Digital Realty构建了自己的内部聊天界面,运行在开放权重模型上,并根据任务的敏感性和复杂度混合使用开放和专有系统。
“我们把专有数据放进这个私有模型里,我不会放进前沿模型,”华莱士说。“任何客户数据,绝对、绝对、绝不会进入前沿模型。”