把 35KB 级系统提示词从 Opus 迁到本地 Ollama 的踩坑笔记
作者 Patrick McCanna 分享了将 35kb 级前沿 LLM 提示词迁移到本地 Ollama + abliterated 27B 模型的踩坑笔记。核心痛点：本地系统上下文窗口仅 65k tokens，35kb preprompt 占满 14%，agent 会在 3 分钟内反复重读文件、重复工具调用、丢失前文指令（他比喻为“每 90 秒转世一次”）。 他提出 SOP 原则：把大 preprompt 拆成单一目标单元、用 opencode 声明式 agent 替代 Claude Code 的读文件行为、显式调小 Ollama 默认上下文、让 agent 把会话状态落盘以便交接、减少每步工具调用次数、把“不要做 X”改成“只做 Y”。 他还列出 MTTF（Mean Tokens To Forget）监控信号：重复工具调用、重复读同一文件、agent 重述目标、tool-call 解析失败、turn 数相对文件变更量过高。 文章还夹带对 OpenAI/Anthropic 安全拒绝机制的尖锐批评，认为前沿模型的安全过滤阻碍了防御者发现漏洞，并提到 Navier-Stokes 数学家事件作为背景。 对想自托管 LLM 跑 agentic workflow 的开发者有直接参考价值。
评论
点赞
收藏