从零搭建AI文本检测器
Substack推出AI检测器后，作者从零搭建了一个AI文本检测器，并用它训练小语言模型生成绕过检测的文本。项目目标是理解AI检测器的工作原理，同时探索验证器驱动的小语言模型应用，超越传统的数学和代码推理训练。 
Sebastian Raschka, PhD
Sebastian Raschka 的个人主页，AI 研究员与教育者，《Build a Large Language Model (From Scratch)》作者。
评论
点赞
收藏Claude 文本水印技术解析
Claude 文本水印机制的技术解析。Anthropic 通过在生成文本的 token 分布中嵌入统计标记来标识 AI 生成内容，具体方法基于官方发布材料。 
《从零构建推理模型》已在 Amazon 上架，附盗版警告
Sebastian Raschka 的《Build a Reasoning Model From Scratch》已在 Amazon 上架，但印度区出现黑白盗版翻印，建议通过官方渠道购买。 
Meta Muse Glimmer 30B 架构笔记
Sebastian Raschka 发布 Meta Muse Glimmer 30B 的架构速览，涵盖 gated local/global GQA、KV-cache 效率优化，以及发布时的基准测试对比数据。 
《从零开始构建 LLM》仓库 GitHub 星标突破 10 万
Sebastian Raschka 的 LLMs From Scratch 仓库 GitHub 星标突破 10 万。帖子简要总结了仓库中的学习材料内容。 
Kimi K3 架构概览与笔记
Kimi K3 是 Kimi Linear 的放大版，参数规模从 48B 扩展到 2.8T，是目前最大的开源模型。它引入了 LatentMoE、注意力残差连接和 NoPE 位置嵌入等创新，并原生支持多模态。文章详细分析了这些组件的原理和影响，提供了技术细节和比较。
Kimi K3 架构概览与笔记
关于Kimi K3的简要架构说明，包括LatentMoE、Kimi Delta Attention、Attention Residuals、NoPE、多模态以及推理效率方面的选择。
本周几款值得关注的开源模型
关于六种全新开放权重模型架构的简要说明，包括南贝格4.2、拉古纳S 2.1、Motif-3-Beta、Solar Open 2、Antares 1B 和 BTL-3。 
《从零构建推理模型》第6.5节代码勘误
Sebastian Raschka 发布勘误，修正其新书《Build a Reasoning Model From Scratch》第198页代码清单6.5中的随机种子设置。 
控制大模型的推理努力程度
Sebastian Raschka 探讨大语言模型如何学习低、中、高三种推理努力模式。文章聚焦于控制模型在解决问题时的计算资源投入与推理深度之间的平衡，涉及训练策略与推理效率的工程权衡。 
英克林：一款全新开放式重量975B莫伊，还带有一些惊喜。
简要介绍思考机器实验室的975B Inkling开重模型，其基准性能曲线、稀疏MoE设计、短卷积、嵌入式RMSNorm以及相对位置偏置。
我的博客订阅者达到20万
Sebastian Raschka 宣布其独立研究博客订阅数突破20万，感谢读者支持。文中提及正在撰写新文章，预计下周发布。 
GPT 5.6 的 72 种配置：什么是好的默认值？
Sebastian Raschka 分析了 GPT 5.6 模型在训练时间和推理时间扩展上的组合，得出 72 种可能的配置选项。文章探讨了不同 effort 选择如何映射到具体的缩放策略，为开发者在部署大模型时提供配置参考和权衡思路。 
《从零构建推理模型》新书发布
简短说明，宣布推出“从零开始构建推理模型”一书，并链接了出版社和亚马逊的页面。
使用本地编码智能体：开源模型的替代方案
在本地编码框架中使用开放重量模型，作为Claude Code和Codex订阅的替代方案 
在编程工具链中使用本地开源大模型
作者 Sebastian Raschka 分享了他尝试在本地运行开源权重大模型（如 Qwen-Code、Codex 和 Claude Code）的经验。这是一篇简短的技术笔记，主要关注这些模型在编程辅助场景下的实际表现。
GLM-5.2与IndexShare：面向长上下文的稀疏注意力优化
关于 GLM-5.2 的简短说明：这是一项开放权重的 GLM 更新，它保留了 GLM-5 稀疏 MoE 背骨结构，并新增了 IndexShare 功能，以实现更低成本的 100 万 token DSA 推理。
VibeThinker-3B：后训练对模型能力的决定性作用
分析 VibeThinker-3B 模型，该模型基于 Qwen2.5-Coder-3B，通过强大的后训练（Post-Training）显著提升了编码和推理能力。强调了在基础架构之上，后训练数据和质量对模型最终表现的关键影响，观点鲜明。
North Mini Code：Cohere 的 Agentic 编码 MoE 模型
关于北迷你代码的简短说明：Cohere 的 30B 总量和 3B 活跃开放权重 MoE 模型，用于代理编码任务。 
LLM 研究论文：2026年1月至5月精选列表
Sebastian Raschka 整理的2026年上半年重要大语言模型研究论文清单，涵盖该时期内具有代表性的学术成果。
Nemotron 3 Ultra与潜在MoE扩展
文章介绍了NVIDIA发布的Nemotron 3 Ultra模型。该模型总参数量为550B，激活参数为55B，采用混合Mamba-Transformer的潜在MoE架构。内容侧重于技术规格和扩展性分析。
MiniMax M2 技术报告简析：全注意力与细粒度 MoE 设计
Sebastian Raschka 对 MiniMax-M2 技术报告的解读。核心亮点包括采用 Full Attention 而非稀疏机制，结合细粒度 MoE 架构，以及针对 Agent 管道和速度奖励的自我进化策略。对于关注模型底层架构设计和推理效率优化的工程师有参考价值。