AI 基础设施峰会首日速览
今天是一篇来自达斯汀·斯克拉沃斯的特约文章。他曾任AnandTech高级编辑、海盗船的产品经理,以及Tenstorrent的技术撰稿人。达斯汀在行业内拥有近二十年的写作与从业经验,曾负责管理超过1亿美元的硬件产品线收入,并且经常以专业眼光戳破那些华而不实的营销宣传。
在寻找一个既有趣又全新的行业挑战之际,我很高兴本周能在AI基础设施峰会上邀请他为《More Than Moore》供稿。
AI基础设施峰会主题演讲综述
2026年的AI基础设施峰会以三场不同主题的演讲拉开帷幕,其中几大核心议题逐渐浮现。如果说今年我们在AI基础设施峰会上最想弄清楚的是什么,那就是:与去年相比,与会者们的观点是否有所变化——答案是:确实有些不同!
值得一提的是,首日的主题演讲是一场由我们自己的伊恩·卡特雷斯博士与谷歌院士、计算机科学领域家喻户晓的戴夫·帕特森教授共同参与的炉边谈话。
伊恩和戴夫重点探讨了制约未来硬件发展的几大关键趋势。
接下来是英伟达超大规模业务副总裁兼总经理伊恩·巴克的演讲。去年他曾宣布推出NVIDIA CPX预填充芯片,但该产品最终在年底前被搁置。
今年,他的重点则放在首批NVL72 Vera Rubin基准测试结果上,尤其是他们如何打造了一款专为“代理型AI”而生的架构。显然,其他厂商也在朝这个方向努力,而数据本身便是最好的证明。
峰会的主题演讲最后由AI基础设施峰会联合创始人埃德·尼尔森与英特尔首席执行官谭普敦之间的炉边对话收尾。我们先从谭普敦的发言谈起,因为这些内容值得特别关注。
谭普敦与英特尔
与谭普敦的对话主要围绕英特尔的现状、其技术进展,以及他作为风险投资人和个人合作伙伴所进行的投资展开。
英特尔的制造工艺正在稳步推进,尤其是EMIB-T封装技术。在最近的财报电话会议上,公司表示需求已超过供给,而鉴于英特尔自身尚未采用EMIB-T,这表明其外部封装业务颇具前景。
谭普敦还强调,英特尔的组织架构已变得更加高效——在他任职期间,公司去年进行了约30%的大规模裁员。
不过,关于AI现状的深入见解并不多;双方仅对AI行业糟糕的公众形象略作提及,谭普敦也承认这一问题,并指出硅谷在诸如技术普及度等方面,与美国乃至全球其他地区存在脱节,但无论是采访者还是谭普敦本人都未就此展开更多讨论。
谭普敦透露了两条颇为有趣的信息。首先是他解释了Gaudi项目最终走向终结的原因:英特尔收购了Habana Labs后,管理层随即离职。正如俗话所说,“掌舵者必须懂得如何操控航向”。
后来我询问伊恩时,他补充道,更根本的原因在于,即便是第三代架构也是在收购前设计完成的,而将该架构的前端与当时英特尔主推的通用软件栈相整合,始终存在困难。
其次,英特尔正重新聚焦于软件领域的领导地位,并计划在不久的将来引进一位重量级人才来推动这一战略。这引发了一些有趣的思考:在前任英特尔CEO任内,首席技术官是格雷格·拉文德,他是一位典型的软件导向型CTO。
格雷格与帕特·盖尔辛格几乎同时离开英特尔,此后英特尔花了数月时间寻找新CTO,最终由我们的推特好友普什卡尔·拉纳德接任。普什卡尔上任仅数月,但其背景更偏硬件,因此,若能引入一位软件领域的专家或“高手”,无疑将填补英特尔的重要空白。
内存与功耗
戴夫·帕特森教授的对话以及伊恩·巴克的演讲,都直接或间接地触及了AI产业在数据中心层面面临的两大挑战。展会上人们关注的三大瓶颈中,已有两项广为人知:内存与功耗(第三项是网络)。
帕特森明确指出,我们正步入一个“以内存为中心的时代”,事实也的确如此:尽管展会上许多芯片与IP供应商都在设法满足带宽需求,但带宽问题依然棘手,仅次于实际内存容量,而对海量内存的普遍需求似乎并未减弱。
此外,有最新消息称,一些头部客户可能不再使用最高规格的8/12/16层HBM4堆栈,而是考虑采用4层HBM堆栈,以便更好地分散内存布局。
采用更小的内存堆栈意味着在保持相同带宽的前提下需要更多的独立堆栈,但这会牺牲部分容量。需要注意的是,这种方案只有在具备良好的扩展性解决方案时才可行。
另一些厂商则坚持认为,高容量仍是主流选择。
内存问题的另一个难点在于,新型存储技术难以真正进入市场。事实证明,客户不愿接受初创企业主导的封闭式解决方案所带来的供应商锁定风险;专有内存方案迫使他们只能依赖单一供应商。
传统上,内存一直被视为大宗商品,任何公司都可以自由选择任意供应商的产品。通常而言,供应商锁定会带来巨大风险,因此,新型存储技术要实现广泛采用,就必须由多家公司共同生产。
虽然在推广新技术时这种说法听起来很美好,但HBM4却走上了定制化路线,最终导致基片集成高度依赖特定供应商,从而丧失了商品属性——也就是说,只有当技术成熟可靠时,它才能被市场接受,而非在未经验证、缺乏优势的情况下强行推行。
功耗同样是业界持续关注的问题,帕特森和巴克都谈到了在芯片及数据中心层面提升能效的重要性。帕特森尤其关注在清洁能源供应充足的地方建设数据中心,并积极降低AI数据中心的碳足迹,他认为建在城市中心附近的数据中心往往不得不依赖环境友好度较低的能源。
他还提到自己近期的一项研究,证实最新的芯片即便存在“功率膨胀”现象,往往仍是最高效的。
巴克则从另一个角度审视功耗问题,将每瓦性能视为关键指标。Vera Rubin正是以此为目标设计的;尽管NVL72的整体功耗尚不明确,但英伟达宣称,在上一代硬件因能耗过高而无法胜任的场景下,其性能可提升至原来的30倍左右——当然,这些数据出自厂商,还需谨慎对待。
此外,他们还在开发一系列技术,旨在智能最大化数据中心站点的供电利用率,并沿用了传统的“Max-Q”品牌理念,只不过这次是在数据中心层面应用。
面向大众的芯片设计
帕特森教授还谈到芯片设计中的一个悖论:AI技术的不断进步,要求用于处理AI的处理器设计也随之持续演进,其中包括对主机CPU的重新重视,这一点在伊恩·巴克谈及Vera优先单线程性能而非核心数量时也得到了强调。
AI正在从芯片到服务器层面彻底改变游戏规则,伊恩·巴克指出,过去那种依靠高核心数的数据中心模式已经过时——代理型AI对延迟极为敏感,而英伟达通过Vera所做的调整恰恰更能满足这一需求。
有人问帕特森,刚毕业的工程师应该瞄准哪些方向?他建议,即使当前正向GPU、ASIC等专用芯片转型,学生和工程师仍应追求对芯片工程的全面理解。
尽管芯片正变得越来越专业化,尤其是在AI时代,但AI本身也是一个快速变化的领域,过早专精反而可能导致所学知识迅速过时。他表示,工程师必须保持灵活性,因为所处的环境瞬息万变,唯有如此才能避免被淘汰。
随着AI模型不断迭代,工程研发也必须与时俱进。
最后,有趣的是,当被问及他个人对AI的使用情况时,帕特森坦言,他合作的程序员们对其使用的代码生成工具效果感到惊喜,而他自己也同时使用着多种AI助手。
但他也强调:“之所以要用多个助手,是因为AI会撒谎。”这虽是个俏皮的回答,却也善意地提醒我们:只要加以适当监管,AI可以成为极其强大的工具。
结语
展会还将持续两天,届时我们将带来更多现场观察,包括在TechTechPotato YouTube 频道频道发布的总结视频。首日往往是各路厂商争相亮相的时刻,因此第二天有望让我们更深入地探讨展场上那些引人入胜的话题。
最后,我们引用EE Times的好友萨莉·沃德-福克斯顿的一句话,她恰如其分地捕捉了伊恩与戴夫对话的最后几秒:
目前,伊恩正在圣克拉拉市立医院烧伤科接受治疗。
[伊恩与戴夫的完整对话预计将在活动结束后公开]
感谢阅读《More Than Moore》!本文为公开内容,欢迎分享。