Sam Altman 认为 PC 内存闲置太糟糕

OpenAI CEO Sam Altman 接受 YouTube 主播 Cheeky Pint 采访时谈到了 AI 行业目前所面临的全球算力供应问题。当话题不可避免转向内存时,Altman 指出,市场看不见的手失灵了,原因可能是并非每一块 DRAM 晶圆都直接流向数据中心,用于运行 AI 模型。他表示:“从全球资源配置角度看,让全球有限的 DRAM 供应分散在每个人的 PC 里且利用率可能仅有 5% 左右,这是非常糟糕的。在当前这种供应极度受限的环境下,我们理应追求云端算力的最大化利用。然而许多人的直觉却恰恰相反。”AI 芯片使用的内存主要是 HBM,和 PC 使用的 DDR4 或 DDR5 并不相同。内存短缺的主要问题是内存厂商将产能转移到了利润更高的 HBM 上。

参与讨论