Cohere 发布 Megakernel 推理引擎：比 vLLM 快 41%，H100 解码吞吐量达 292 tok/s

Cohere，Cohere，企业级 AI 公司，构建强大的大语言模型与 RAG 解决方案，赋能企业将数据转化为可行动的洞察并自动化流程。关注
添加评论
点赞收藏
点踩分享查看原文
评论
?
参与讨论