AI算力危机为何最痛击新创实验室

人工智能芯片短缺给像OpenAI这样的科技巨头带来了头疼。然而，受影响最严重的是那些试图构建自己AI模型的初创公司——所谓的neolabs，他们需要利用有限的资金，争取访问庞大的图形处理单元集群，以完成计算密集型的模型训练任务。

“现在知道GPU当前价格就像风险投资的货币一样，”Evan Morikawa说，他最近刚刚结束与17家不同的AI云服务提供商的交谈，他们为他的初创公司Generalist寻找计算资源，该公司专门训练机器人AI模型。

森川将寻找人工智能芯片比作探索遥远的土地：“在旧金山的晚宴上，这相当于从远东归来，”他开玩笑道。

初创公司训练自己的模型需要数百甚至数千块GPU或类似的AI芯片。去年冬天森川在市场上采购数百颗芯片时，他表示云计算提供商提供的合同价格合理，期限短至一年。

签订一年合同六个月后，Generalist需要更多计算量，森川再次出发寻找大约一千个芯片。

他在五月和六月的讨论中发现，价格急剧上涨，合同期限通常达到3到5年，且有12到18个月的时间等待获得数千块最新芯片的集群。“现在一年合同几乎不可能拿到，”他说。

他说，这使得合同期限成为新实验室计算合作中“最痛苦但最少被讨论的部分”。云服务提供商推动多年协议以锁定收入，这“使初创企业非常非常困难，甚至不可能实现”，森川表示。

“如果你的公司才成立1年，签5年合同就没意义了。那份五年合同的价值可能是你筹集的三倍，所以你在纸面上已经处于负债状态了。”

如此昂贵且长期的投入尤其令人望而生畏，因为新实验室正在押注可能不会成功的人工智能研究议程，而从零开始训练新模型仍是一门秘密艺术，而非人工智能行业的既定配方。

Morikawa表示，计算是新基金用于新实验室的主要用途。

市场数据进一步说明了这一问题。根据Semianalysis的数据，作为一年合同一部分，一块英伟达H100显卡的小时租赁价格从12月中旬的1.73美元上涨了50%，至6月中旬的2.60美元。

考虑到英伟达在2022年发布了H100，并且此后又发布了两代新芯片，这一价格涨幅尤其引人注目。对于按需供应的H100芯片，Semianalysis近几个月几乎没有公布价格;结果只写着“售罄”。

虽然一些新实验室仍能获得用于训练模型的计算，但这可能花费巨额资金。Reflection AI 是一家由英伟达支持、开发开源基础模型的公司，最近与 SpaceX 签订了一份每月 1.5 亿美元租赁芯片的协议，并与 Nebius 签订了超过10亿美元的多年合作协议。

这占该初创公司上一轮融资中25亿美元的一大部分。

不久前，初创公司还能按需获得计算，但截至二月，据一家中型人工智能安全研究机构的基础设施负责人透露，这些容量已经大幅枯竭。

该负责人在三月至七月间与20多家计算提供商交谈，寻找约60颗芯片。此前，该组织依赖多个供应商，包括neocloud Runpod。

针对容量的减少，该组织寻求更多芯片的新计算协议，以便定制更大模型，并更多关注预训练——即训练大型语言模型中最需要计算的早期阶段。

对于进行此类训练运行的公司来说，提前1到3年预留芯片尤其棘手，因为它们需要大量计算能力，而未来的计算需求又取决于早期实验的结果。

基于这些原因，按需租赁GPU几周更适合他们组织的工作，这位人士说。

超大规模企业通常关注更大的客户——我的同事Catherine Perloff最近写道，越来越多的初创公司表示亚马逊网络服务不再满足他们的需求.而较小的新云，如CoreWeave、Runpod和Nebius，自三月以来按需容量不多，这位人士说。

Runpod发言人表示，排队等待计算请求的用户平均在几小时内即可获得访问权限。与此同时，正如我的同事Martin Peers昨天所写，CoreWeave和Nebius是享受涨价.CoreWeave首席执行官Michael Intrator周二在财报电话会议上表示，“尽管我们投资提升产能，但近期产能实际上已售罄。”他说，这“正在转化为来自越来越多客户群体以越来越有利条款签署的承诺”。

基础设施官员称，至少有三次，该研究机构与宣传可用性的供应商安排会议，会议后两天内，容量被出售给了其他人。该组织最终与Prime Intellect签署了价值数百万美元的协议，后者正在印度的数据中心转售计算设备。

该组织的一名员工在交易完成时买了一个蛋糕庆祝。

“那是好几个月的巨大压力。“没有答案告诉你们组织是否能持续研究数月，这非常令人愉快，”这位人士说。“这是新的风景。我们都在适应。”

还有其他情况......

财报报告

新云尼比乌斯报告了454%的扩张第二季度收入达到5.82亿美元，得益于对人工智能计算需求的激增。

腾讯控股表示第二季度的资本支出几乎增长了三倍从去年前增长至528亿元人民币（78亿美元），这家中国科技巨头加强了计算基础设施，以训练更优秀的人工智能模型，满足对其编码和生产力工具日益增长的需求。

Cerebras，设计用于加速AI模型运行的AI芯片，报告销售快速增长但由于竞争和其他担忧，投资者大幅下跌了其股价。

思科系统份额第四季度财报后下跌5%即使公司报告了强劲的收入增长，并表示其动力来自云服务提供商客户增加其AI网络芯片和交换机的支出。

合约与首秀

参见《信息》杂志生成式人工智能数据库提供私人公司及其投资者的独家名单。

Thrive Holdings是一家总部位于纽约市的公司，收购专业服务企业并注入人工智能，该公司从D1 Capital Partners、Altimeter Capital、SoftBank Group等公司筹集了20亿美元。

Kalshi，作为最大的预测市场，正在与筹集至少7.5亿美元据知情人士透露，新一轮融资估值为400亿美元。

Lovable 是一家初创公司，其 AI 软件允许任何人构建、启动和维护可用的网络应用，在 Menlo Ventures 和 Scaleup Europe Fund 领导的 C 轮融资中筹集了 4 亿美元，估值为 133 亿美元。

据《金融时报》报道，乐高拉是一家人工智能法律初创公司，正在洽谈在年经常性收入增长至1.5亿美元后，估值至少达到100亿美元的新融资。

彭博社报道，Anthropic正洽谈以约60亿美元收购Decart AI，这是一家世界模型开发商，同时开发使AI芯片运行更高效技术的企业。

CodeRabbit是一家初创公司，其AI软件自动审查软件代码，在Atomico和Smash Capital领航的C轮融资中筹集了1.43亿美元，估值为15亿美元。

Skan AI是一家初创公司，其AI软件监控员工实际如何使用其业务应用，在由国泰创新和戴尔科技资本主导的C轮融资中筹集了6300万美元。

Gravity是一家初创公司，开发由人工智能运营的网络广告系统，在由Lightspeed风险投资伙伴和Committed Capital领导的A轮融资中筹集了3050万美元。

Silicon Data是一家为人工智能计算经济提供定价和市场数据的初创公司，在由Valor Atreides AI基金主导的A轮融资首轮收盘中筹集了3050万美元。

ClearJet是一家初创公司，通过利用人工智能将包裹转运到美国城市间已安排航班的空置货舱，开发更快、更便宜的包裹，在Edison Partners主导的融资轮融资中获得了2500万美元。

总部位于旧金山的Preview人工智能视频制作软件公司，在红杉资本的带头下筹集了1200万美元的资金。

Diald是一家初创公司，其AI软件帮助房地产投资者在房产上做功课，在Feedback Ventures主导的融资轮中筹集了100万美元。

Mindgard是一家初创公司，其软件帮助公司发现并修复人工智能系统的安全弱点，在由Album风险投资主导的A轮融资中筹集了3000万美元。

中国人工智能开发商DeepSeek已经启动其旗舰型号V4-Pro在用户中评价褒贬不一，有些人表示失望。该公司于周三正式发布了该型号。由美国AI基准初创公司Vals AI编制的排行榜将V4-Pro评为所有开源模型中的第二，仅次于Moonshot AI的热门Kimi K3。

谷歌涨价其最新Pixel智能手机减少了100美元，这表明内存芯片价格上涨正在推高消费硬件成本。

流媒体平台Twitch宣布，除非其母公司亚马逊选择退出，否则将使用创作者的内容来训练AI模型。

感谢您阅读《人工智能议程》通讯！我很想听听你们的反馈、想法和技巧：[email protected].

如果你觉得其他人可能会喜欢这份通讯，请转发给他们，或者他们可以注册给你.