寒序科技公布 MRAM 推理产品路线，首代 uHBM 片内带宽 24 TB/s
国内首家 MRAM 磁计算公司寒序科技公布 uHBM 与 uLPU 推理计算架构，首代 uHBM 片内读带宽设计值 24 TB/s，uLPU 面向 4B 多模态模型提出超 2000 Tokens/s Decode 目标，并披露从芯片到 2U Tray 及 Rack 的产品路线。 其方案将模型权重驻留在 Persistent MRAM 阵列、同片完成矩阵-向量运算，减少权重重复搬运；SpinPU-E...
比卡超
关注
3 条评论
点赞
收藏