“傻瓜混合体”：MoE 架构为何是智能的退化
MoE（专家混合）是一种大型语言模型的运行模式：与使用单一的“密集”模型相比， 该模式采用多组高度专业化、针对特定领域的小型模型。 在这些20至50位“专家”前方，一个路由层负责决定究竟使用哪一位专家。 MoE无法实现密集推理的复现。它缺乏跨领域、压缩式认知的连接机制——例如， 分子生物学的洞见如何为量子力学等提供指导。 MoE会导致可访问的推理能力大幅下降，且其性能普遍受到限制。 转向MoE... 
Existential Politics
Morlock Elloi 的 Substack，关于政治、科技与更多话题的评论与分析。
评论
点赞
收藏当太多人未经许可就变得过于能干：AI开放权重之争的本质
核心看点：前沿AI模型的开放权重之争，表面是"安全"与"负责任部署"，实质是垄断机构对廉价认知能力的控制。作者用"公共图书馆 vs 前沿大模型"的犀利对比展开：图书馆提供人类可读的知识，大模型则将知识转化为可操作的认知能力——总结、编码、翻译、规划、说服、模拟、协调。这不再是管书，而是管"将文明知识转化为行动能力的机器"。开放LLM让数百万人获得接近博士水平的实用脚手架，威胁律师、程序员、分析师、政策顾问等中间层知识劳动者的垄断定价权。作者指出四种话术替换：把审查说成安全、把知识说成模型权重、把公共访问说成部署、把垄断说成负责任治理。核心结论：这不是书刊审查的旧模式，而是对"认知杠杆"的审查——阻止人们未经许可就廉价地将知识转化为行动。文章人味浓烈、观点鲜明、论证扎实，是近期AI治理讨论中少有的直击权力结构的深度评论。
在 RLHF 纪念碑上涂鸦 LoRA
"涂鸦永远有效。"这篇短评用街头艺术比喻 LoRA（低秩适配）与 RLHF（人类反馈强化学习）之间的张力：RLHF 训练出的大模型如同官方竖起的纪念碑，而 LoRA 微调就是个人在纪念碑上留下的涂鸦——非主流、定制化、无法被彻底抹去。观点鲜明，隐喻精妙，适合了解大模型微调技术的读者触发讨论。
深度流形中的信量噪比（SQNR）探秘
标题看起来是硬核信号处理论文，但作者特意注明「比标题有趣得多」——暗示这不是枯燥的技术推导，而是拿 SQNR（信号量化噪声比）这个经典概念当引子，带出对深度学习流形空间本质的另类解读。技术外皮下藏着作者独特的观察视角：用通信系统的信噪比框架去审视神经网络内部表征的「信号」与「噪声」边界在哪里。适合对 AI 底层原理有好奇心、但厌倦了标准教程叙述的读者。短文本身门槛仍在，但作者的俏皮自白降低了心理负担，属于「硬核包装、内藏趣味」的跨界小品。
对已死系统的认知忠诚
原文为克罗地亚语/塞尔维亚语。"Identitet je hardver"（身份即硬件）构成全文核心断言——暗示人的身份认同像硬件一样固化，即便忠诚于已失效的系统也无法轻易改写。文风哲学化，受众极度垂直狭窄，语言门槛较高，非中英读者难以直接阅读。
2. Čin - Infrastruktura kontrole
Šta nam rade?
第一幕——数字世界中的权力意识形态
系列短文的第一篇，标题指向"数字世界中的权力意识形态"，但正文仅有一句提问"我们是如何走到这里的？"。没有展开论述、背景或分析，更像一个系列开场白或思考起点，作为独立文章几乎没有信息量。
Transcendence, knowledge and parasites
Truth machines