寒序科技公布 MRAM 推理产品路线,首代 uHBM 片内带宽设计 24 TB/s
国内首家 MRAM 磁计算公司寒序科技公布 uHBM 与 uLPU 推理计算架构,首代 uHBM 片内读带宽设计值 24 TB/s,uLPU 面向 4B 多模态模型提出超 2000 Tokens/s Decode 目标,并披露从芯片到 2U Tray 及 Rack 的产品路线。其方案将模型权重驻留在 Persistent MRAM 阵列、同片完成矩阵-向量运算,减少权重重复搬运;SpinPU-ED01 验证芯片已通过第三方检测和 24 小时稳定运行验证。
评论2
?
参与讨论
推理卡,用来跑 部署 ai 的
1小时前
回复
就是用磁性材料(比如 MRAM 里的磁隧道结)来存和算数据,靠电子自旋而不是传统电荷来工作。
好处是断电不丢数据、读写快、还省电。
58分钟前
回复