芦苇
发帖子
探索
今天发现最新帖子添加订阅
热门板块
🤖AI💡科技💻开发🧭产品🛠️工具
订阅
关注
下载芦苇 App ↗
我我的
进入阅读器模式

SINQ:无需校准的Sinkhorn归一化量化方法,让大语言模型更小且保持精度

huawei-csl (GitHub),华为计算系统实验室,在算法、软件和硬件方面与开源社区合作共建更好的计算系统。关注
SINQ:无需校准的Sinkhorn归一化量化方法,让大语言模型更小且保持精度 图片 1
添加评论
点赞收藏
点踩分享查看原文
评论
?
参与讨论

登录芦苇

登录后关注作者、收藏内容和参与讨论。

关于作者
huawei-csl (GitHub)华为计算系统实验室,在算法、软件和硬件方面与开源社区合作共建更好的计算系统。
相关文章
KVarN:华为开发的 vLLM 原生 KV 缓存量化后端查看相关内容
冒险与杏仁核切除倡导查看相关内容
从八十年飞行史,看城市、社会和我们自己的改变查看相关内容