芦苇
发帖子
探索
今天发现最新帖子添加订阅
热门板块
🤖AI💡科技💻开发🧭产品🛠️工具
订阅
关注
下载芦苇 App ↗
我我的
进入阅读器模式

8GB显存如何跑35B:深入理解FreeToken的专家缓存与CPU-GPU协同

Nicksxs,Nicksxs 的个人技术博客。关注
添加评论
点赞收藏
点踩分享查看原文
评论
?
参与讨论

登录芦苇

登录后关注作者、收藏内容和参与讨论。

关于作者
NicksxsNicksxs 的个人技术博客。
相关文章
6GB显存能跑35B MoE吗:FreeToken极限配置、性能压榨与实操教程查看相关内容
RAP: Research Attention Prediction Reveals Target-Conditioned Evidence Acquisition Biases查看相关内容
Headed for the Exit: The Great Engineering Leader Career Break查看相关内容