Throughputmaxxing: DeepSeek-V4-Flash on Isambard-AI

Doubleword，关于构建 AI 系统的笔记——机器学习与 AI 开发的实用工程洞见。关注

Single-node serving throughput for DeepSeek-V4-Flash: baseline, MLA/DP-attention, and MoE kernel choice.

添加评论
点赞收藏
点踩分享查看原文
评论
?
参与讨论