A 341 GB DeepSeek on a 128 GB Mac: 2x decode and first token in 0.2 s instead of 2.5 s, streaming from two SSDs, same tokens as stock ds4. The trick wasn't a kernel: I made the codebase small enoug...
DeepSeek (Reddit)
,DeepSeek AI 非官方 Reddit 社区,讨论模型、研究与最新进展。
关注
添加评论
点赞
收藏
点踩
分享
查看原文
评论
?
参与讨论