Kimi K3 架构概览与笔记
Sebastian Raschka, PhD
,Sebastian Raschka 的个人主页,AI 研究员与教育者,《Build a Large Language Model (From Scratch)》作者。
关注
关于Kimi K3的简要架构说明,包括LatentMoE、Kimi Delta Attention、Attention Residuals、NoPE、多模态以及推理效率方面的选择。
添加评论
点赞
收藏
点踩
分享
查看原文
评论
?
参与讨论