More Than Moore

RSS: https://morethanmoore.substack.com/feed
Dr. Ian Cutress 关于半导体行业最新动态的博客,涵盖芯片、AI、处理器和市场趋势。

对 OpenAI 的 Richard Ho 的访谈

文章来自 More Than Moore 对 OpenAI 的 Richard Ho 的访谈,聚焦 OpenAI 自研推理加速器 Jalapeño。核心事实:OpenAI 与 Broadcom 合作设计、Celestica 做板卡集成;该芯片为推理加速而非训练,配备 216 GiB HBM4(15.4 TB/s),单芯片峰值 700 W、实测持续功耗约 550 W;本地域 128 颗,完整系统 2048 颗,4-bit 精度下可达 27 EFLOP/s。 HotChips 2026 上给出首批实测数据:对比 NVIDIA GB200/GB300,峰值吞吐每瓦性能提升 1.5–1.9 倍,延迟改善 1.7–3.6 倍,部分操作点最高达 104 倍。 两个争议/看点:一是 OpenAI 选择单一平衡芯片覆盖整个推理负载,而行业趋势是拆分 prefill/投机解码/完整解码并用不同专用硬件;二是芯片设计过程中大量使用 OpenAI 自家模型辅助计算设计、版图适配和 kernel 优化,其中一个 attention 实现从不足 roofline 1% 提到近 90%,耗时约 40 小时。
评论点赞收藏3 小时前

AI 基础设施峰会第二天:现场观察与要点

<p><em>今天是Dustin Sklavos的特约文章,他曾任AnandTech高级编辑、Corsair产品经理,Tenstorrent技术撰稿人。Dustin拥有近二十年的写作和行业工作经验,管理过超过1亿美元的硬件线收入,并且经常在表面营销面前发挥坚强的助力。<br><br>在寻找行业中有趣且新的挑战时,我很高兴他本周在AI基础设施峰会上为More Than Moore撰稿。</em></p><hr><p>第二天,我们花时间在展会现场寻找一些有趣且创新的硬件设计,以及一些趋势。</p><h3>服务器散热</h3><p>我对冷却解决方案非常痴迷。我在<strong>海盗</strong>(预装高端消费级小型PC产品线)并花时间管理他们的液冷。同样在AI硬件初创公司工作<strong>滕斯托伦特</strong>我参与开发了第一代TT-QuietBox,这是他们的消费级双PCIe卡系统解决方案。<br><br>甚至我的家庭系统也有(多余的)定制水冷回路。我作为记者的最后一篇文章是关于我第一次搭建回路的经历。</p><p>数据中心的液冷变得至关重要——随着硬件机架超过企业市场的12-25千瓦,尤其是多千瓦ASIC的研发,水冷系统一直存在。光子技术方面更是如此,因为领先ASIC厂商会先吸收水冷。</p><p>展会上有两个水砖摊位,各自有自己的酱料。</p><p><strong>马利奇</strong>我用的是相当传统的铜制水冷头,但他们用全铜制热管把环路缝合在一起。这里有权衡:可用性显然更难,因为你现在要处理整个组件,而且你会失去传统管道的渗透性,但这可以提升热性能。<br><br>可用性和性能之间的权衡将成为数据中心解决方案管理者未来十年必须争…</p>
评论点赞收藏8 天前

AI 基础设施峰会首日速览

<p><em>今天是一篇来自达斯汀·斯克拉沃斯的特约文章。他曾任AnandTech高级编辑、海盗船的产品经理,以及Tenstorrent的技术撰稿人。达斯汀在行业内拥有近二十年的写作与从业经验,曾负责管理超过1亿美元的硬件产品线收入,并且经常以专业眼光戳破那些华而不实的营销宣传。<br><br>在寻找一个既有趣又全新的行业挑战之际,我很高兴本周能在AI基础设施峰会上邀请他为《More Than Moore》供稿。</em></p><hr><h2><strong>AI基础设施峰会主题演讲综述</strong></h2><p>2026年的AI基础设施峰会以三场不同主题的演讲拉开帷幕,其中几大核心议题逐渐浮现。如果说今年我们在AI基础设施峰会上最想弄清楚的是什么,那就是:与去年相比,与会者们的观点是否有所变化——答案是:确实有些不同!</p><p>值得一提的是,首日的主题演讲是一场由我们自己的伊恩·卡特雷斯博士与谷歌院士、计算机科学领域家喻户晓的戴夫·帕特森教授共同参与的炉边谈话。<br><br>伊恩和戴夫重点探讨了制约未来硬件发展的几大关键趋势。</p><p>接下来是英伟达超大规模业务副总裁兼总经理伊恩·巴克的演讲。去年他曾宣布推出NVIDIA CPX预填充芯片,但该产品最终在年底前被搁置。<br><br>今年,他的重点则放在首批NVL72 Vera Rubin基准测试结果上,尤其是他们如何打造了一款专为“代理型AI”而生的架构。显然,其他厂商也在朝这个方向努力,而数据本身便是最好的证明。</p><p>峰会的主题演讲最后由AI基础设施峰会联合创始人埃德·尼尔森与英特尔首…</p>
评论点赞收藏14 天前

在日本用废弃工业地块部署非主流AI算力

<p>这个Substack的目的是告诉你半导体领域的动态。从这里到我的YouTube频道,有关于IBM突破晶体管密度壁垒的内容,关于新型硅芯片进入市场的视频,它们的性能如何、如何竞争,有时我还会评论它们的质量。</p><p>还有我报道的上千家初创公司,他们试图打破常规,进入市场份额,似乎已经占据了市场份额。但我也想报道并描述之后会发生什么。在我们称之为“的行业中,有一种现象<em>基础设施</em>,除了芯片之外,你还得问:它们去哪里了?很少有芯片能直接面向消费者,所以我们最终只能专注于企业级、数据中心、云服务提供商、超大规模企业,并通过计算和网络渗透。但电力从哪里来?水从哪里来?它们是如何使用的——杀手级应用到底在哪里?</p><p>我们谈论人工智能已经很久了,我报道过的初创公司,从Tenstorrent到d-Matrix、Cerebras、SambaNova,还有另外五十家,问题总是浮现:它们到底在哪里被使用?<br><br>今年AMD推进人工智能活动中,我偶然遇到了<strong>大卫·贝内特</strong>是More Than Moore的朋友。我上次采访他时是Tenstorrent团队的高管,但从那以后他决定创办一家名为<strong>AI&amp;</strong>(又名<em>aiand</em>).他们总部设在日本,利用棕地站点向当地社区提供代币访问。<br><br>我想和David谈谈他们决定在基础设施中部署不仅仅是标准的NVIDIA和AMD设备,具体是什么样的?</p><p><em>以下文字记录经过轻微编辑以提高可读性。</em></p><hr><p><strong>Ian Cutress:首先,你正在…</strong></p>
评论点赞收藏18 天前

英特尔开始交付基于 High-NA EUV 的硅片

<p>2024年4月,我在俄勒冈州希尔斯伯勒的英特尔D1X晶圆厂穿上了一套兔子服,站在一台尺寸堪比巴士、价值相当于一个小型国家的设备前,距离仅有几英尺。<br><br>英特尔研究员马克·菲利普斯向我们解释说,这正是ASML首台高NA EUV扫描仪,整台设备重达165吨。安装工作刚刚完成,校准也已启动,但要真正投入测试晶圆运行,实际还需要再等上几个月。<br><br>从安装工具的角度来看,英特尔其实只比ASML早了短短几周,这也使得双方得以展开紧密的合作。当我们参观这台设备时,大约15位与CNBC记者一同手持事先获批的摄像设备,大家不禁在思考:这台设备究竟何时、又将何时投入量产硅片和硬件生产?<br><br>答案终于在2026年7月15日揭晓——ASML发布了一份新闻稿,正式确认……</p>
评论点赞收藏76 天前

对话美光云存储业务副总裁:HBM4、定制内存与数据中心存储未来

More Than Moore 主编 Ian Cutress 专访美光云存储业务副总裁 Praveen Vaidyanathan,深入探讨 AI 驱动下的存储行业变革。双方详细解析了 HBM4 的技术演进、定制内存策略以及 SOCAMM 在数据中心的应用前景。 文章披露了美光在 HBM4 制造中的内部逻辑工艺选择、与台积电等代工厂的合作差异,以及 LPDDR6 针对数据中心的架构设计。这些来自产业链核心高管的一手技术细节和产能规划信息,对关注硬件基础设施的技术读者具有较高参考价值。
评论点赞收藏91 天前

IBM Spyre AI 加速卡深度解析:75W 下的能效与架构创新

本文深入解析了 IBM 专为 Z 和 Power 系统设计的 Spyre AI 推理加速卡。该芯片基于 5nm 工艺,在 75W 功耗限制下提供高达 315 TOPS (INT8) 的性能,并配备 128GB 内存。 文章重点介绍了其独特的双环电源管理系统,相比单环方案吞吐量提升 25%,并对比了与 NVIDIA L4 等竞品的能效优势及多卡扩展能力。
评论点赞收藏111 天前

对话Pat Gelsinger:从英特尔到风投,谈“计算三位一体”与异构未来的架构之争

前英特尔CEO Pat Gelsinger 现任职于Playground Global,分享其从芯片制造转向风险投资的经历与思考。 他提出“计算三位一体”概念,认为未来是经典计算、AI加速器和量子计算的融合。 Gelsinger 强调推理效率需提升万倍,并批评单一冯·诺依曼架构无法应对异构工作负载。他对黄仁勋近期宣布推出CPU表示不解,主张根据 workload 选择最佳架构,而非追求通用方案。
评论点赞收藏173 天前

SemiAnalysis创始人Dylan Patel遭起诉

知名半导体分析师Dylan Patel的SemiAnalysis面临诉讼,这一事件在科技行业引发广泛关注,可能影响半导体新闻自由与分析独立性。
评论点赞收藏179 天前

登录芦苇

登录后关注作者、收藏内容和参与讨论。