芦苇
发帖子
探索
今天发现最新帖子添加订阅
关注
订阅
我我的

SubQ 1.1 Card: Linear-scaling sparse attention with 98% retrieval at 12M tokens [pdf]

Subq,Subquadratic,前沿 AI 研究与基础设施公司,构建新一代高效、高性能大语言模型。关注
添加评论
点赞收藏
点踩分享查看原文
评论
?
参与讨论

登录芦苇

登录后关注作者、收藏内容和参与讨论。

关于作者
SubqSubquadratic,前沿 AI 研究与基础设施公司,构建新一代高效、高性能大语言模型。
相关文章
SubQ 1.1 Small:亚二次稀疏注意力模型,1200万token上下文检索性能解析查看相关内容
SubQ:专为1200万Token推理设计的亚二次方复杂度LLM查看相关内容
亚二次稀疏注意力让长上下文变得实用查看相关内容