Exploring Language Models

RSS: https://newsletter.maartengrootendorst.com/feed
Maarten Grootendorst 的通讯,BERTopic/KeyBERT 作者,《Hands-On Large Language Models》作者,关于 GenAI。

DiffusionGemma 可视化指南

介绍 DiffusionGemma 模型,展示其如何突破传统自回归语言模型的局限,提供可视化的技术解析。
评论点赞收藏66 天前

Gemma 4 12B 可视化指南:无编码器多模态架构深度解析

Google DeepMind 新发布 Gemma 4 12B 模型最核心的创新是"无编码器":移除了传统多模态 LLM 必备的视觉编码器和音频编码器,改用极其轻量的嵌入模块,直接把原始像素(48×48 块)和原始音频振幅送入大语言模型处理。作者用大量手绘风格图解,逐一拆解了传统方案(编码器+连接器)与无编码器方案的结构差异,给出具体参数对比——视觉编码器从 5.5 亿参数骤降至 3500 万,音频处理更是简化为一次线性投影。代价是大模型需要承担更多理解工作,但换来推理延迟大幅降低和架构简化。作者为 DeepMind 研究员,文章带有个人探索视角(坦言自己最初也对"无编码器"困惑),致谢多位同事审阅,技术细节扎实且可复用,非机构号任务文。
评论点赞收藏73 天前

Gemma 4 视觉指南

一篇关于 Google Gemma 4 模型的视觉化技术指南。作者以图表与直观讲解帮助读者理解该模型的架构特点与使用方法。内容指向具体技术主题,对关注前沿开源大模型的 ML 从业者有直接参考价值,但提供的正文极短,仅为一句话开场,实际详情需跳转阅读。
评论点赞收藏134 天前

「RAG 工具包」的幕后故事

作者讲述了 RAG Pack 从一门课程出发、逐渐演变为一套检索增强生成(RAG)工具箱的幕后历程。内容带有个人回忆和项目起源叙事,对于关注 RAG 技术生态的读者有故事感和代入感。不过正文同样极短,仅有开场引言,实际详见原链接。
评论点赞收藏184 天前

LLM Agent 可视化指南

图解 LLM Agent 的核心组件,涵盖单 Agent 和多 Agent 系统的架构设计。Agent 是 2025 年 AI 领域最热门方向之一,本指南以可视化方式降低了理解门槛,点击和讨论潜力高,适合开发者与实际应用构建者。
评论点赞收藏516 天前

推理大模型可视化指南

图解推理大模型的核心技术路线,重点讲解 Test-Time Compute 技术和 DeepSeek-R1 的实现原理。2025 年最受关注的 AI 话题之一,配有作者标志性的清晰图示,能帮助读者直观理解复杂的推理机制,点击和讨论潜力高。
评论点赞收藏558 天前

混合专家模型(MoE)可视化指南

可视化解读混合专家模型(MoE)在大语言模型中的关键作用。MoE 是 GPT-4、Mixtral 等主流模型的核心架构,本文帮助读者理解其原理与应用场景,具有较好的教育参考价值。
评论点赞收藏677 天前

量化技术可视化指南

以可视化图解方式深入讲解大语言模型量化技术,涵盖内存高效部署的关键方法。该系列以高质量图示闻名,适合希望优化 LLM 推理性能的工程师与研究者,实用价值较高。
评论点赞收藏754 天前

Mamba 与状态空间模型可视化指南

图解 Mamba 和状态空间模型(SSM)的核心原理,作为 Transformer 之外的语言建模替代方案。该主题技术门槛较高,但作者以图示化方式降低了理解难度,适合对非 Transformer 架构感兴趣的深度学习从业者。
评论点赞收藏908 天前

《动手学大语言模型》进度更新 #2

作者分享新书《Hands-On Large Language Models》的圣诞进度更新,配以视觉素材。纯进度通报性质,对非关注该书的读者价值有限,缺乏观点或讨论入口。
评论点赞收藏968 天前

BERTopic v0.16 新特性解析

介绍 BERTopic v0.16 版本的新功能,包括零样本主题建模、模型合并以及与 LLM 的集成。作者是该库的维护者,内容有真实的一手信息,但受众限于 BERTopic 用户群体,讨论覆盖面较窄。
评论点赞收藏977 天前

哪种量化方法适合你?GPTQ、GGUF、AWQ 对比指南

系统对比三种主流大模型量化方法GPTQ、GGUF和AWQ的原理差异、硬件兼容性、推理速度与精度表现,并提供基于实际使用场景的选型建议。对于需要在消费级GPU上运行大模型的开发者,给出了清晰的决策框架:哪些场景选GPTQ、哪些选GGUF、哪些适合AWQ,信息密度高且可直接指导实践。
评论点赞收藏1006 天前

KeyLLM 介绍——用 LLM 提取关键词

介绍 KeyLLM 工具,演示如何结合 KeyLLM、KeyBERT 和 Mistral 7B 从数据中提取关键词。属于作者自研工具的教程式推广,有实用代码指导,但受众偏窄,缺乏观点或讨论入口。
评论点赞收藏1045 天前

提升大语言模型的三种方法

分享优化 Llama 2 模型的三种实用方法,帮助开发者提升 LLM 性能。文章标题为列表体,但内容有一定实操价值。不足之处在于没有突出个人经验或独特视角,偏向通用教程。
评论点赞收藏1069 天前

使用Llama 2进行主题建模

介绍如何利用Llama 2大语言模型替代传统LDA等统计方法进行主题建模,生成语义更丰富、更易人工解读的主题标签。提供了具体的prompt设计和实现思路,适合文本分析、内容分类场景下的技术团队参考。方法有创意,但整体偏教程,缺乏对真实效果的深入评估。
评论点赞收藏1090 天前

解读Auto-GPT:自主GPT-4的运行机制

拆解Auto-GPT的底层架构与核心运行机制,包括任务分解、递归循环、记忆管理和自我提示等关键模块的工作原理。适合想理解自主AI Agent如何从单次指令出发、自主规划并执行多步骤任务的开发者阅读,提供了比官方文档更清晰的技术脉络。
评论点赞收藏1104 天前

登录芦苇

登录后关注作者、收藏内容和参与讨论。