Doug

RSS: https://doug.sh/index.xml
doug.sh,技术笔记与文章的个人博客。

在 x8/x8 分叉器上搭配两块 RTX 3090 调试 PCIe 链路重训练

作者在 x8/x8 分叉 PCIe 扩展卡上挂两张 RTX 3090 跑 vLLM,遇到超时与 GPU 错误。排查后定位为 PCIe 链路重训练问题,通过修改两个 PCIe 寄存器位并在开机时锁定到 Gen3 解决。 属于较典型的 GPU 服务器 PCIe 调优踩坑记录,对自建推理集群、多卡互联或 PCIe 拓扑调试人群有直接参考价值,技术细节实用,但读者面偏垂直,讨论热度有限。
评论点赞收藏3 天前

Oh My Pi 中的自定义模型:vLLM、llama.cpp、SGLang 等

作者 Doug 介绍如何在 Oh My Pi 中配置本地模型服务,包括 vLLM、llama.cpp、SGLang 以及网关,并给出 omp 18.2.7 及之后版本的两个配置修复。 内容偏实操向,面向本地 LLM 部署与 Oh My Pi 工具链用户。
评论点赞收藏7 天前

让 vLLM 的前缀缓存在 Agent 多轮之间保持热

作者本地用两张 RTX 3090 跑 Qwen3.8 27B(vLLM 部署),目标替代 Claude Code。起初首轮延迟约半分钟、部分回复要等好几分钟,原因是多轮 agent 会话中前缀 KV cache 没保持住,每轮都要重读大段提示。 经过优化后,缓存命中率从约 55% 提升到 95%,服务器基本能把上一轮内容完整保留到下一轮,首字延迟大幅下降。文章偏实操踩坑记录,重点在 agent 多轮场景下 vLLM prefix cache 的保活策略。
评论点赞收藏15 天前

调优本地编程智能体:用 Oh My Pi 和 Qwen3.8-27B 跑在两块 RTX 3090 上

作者分享在自己家跑本地 coding agent 的完整方案:用开源 Pi 的 fork「Oh My Pi (omp)」搭配开放权重模型 Qwen3.8-27B,服务端跑在 vLLM 上,硬件是两块二手 RTX 3090。 核心卖点是代码不离开本机、没有按 token 计费,模型能在消费级显卡上跑起来。文章属于一手踩坑经验,对想本地部署 coding agent、避免 API 订阅费的技术读者有直接参考价值,也给了具体模型和硬件组合的实用判断。
评论点赞收藏17 天前

为什么从录音中去掉“呃”比想象中更难

作者开发了一个名为erm的开源CLI工具,用于自动去除音频中的填充词(如um, uh)。文章深入剖析了技术细节:简单的转录切割会产生爆音和底噪突变,因此作者设计了多层检测机制(结合Whisper与音频信号分析)来精准定位填充词,并通过波形零交叉点滑动、动态交叉淡入淡出以及叠加房间底噪等技术手段,实现了无缝拼接。 这是一篇典型的工程实践复盘,展示了如何处理音频处理中的边缘情况。
评论点赞收藏110 天前

给你的编程代理写个日志

文章指出当前编程代理(如 Claude Code 等)在会话中断或上下文压缩后会遗忘之前的操作,导致重复尝试失败的修复方案。作者认为传统的静态记忆方案(如 或项目 Wiki)无法捕捉任务执行过程中的动态变化。 为此,作者提出并实践了一种“日志(Journaling)”机制,通过持续记录代理的实际行为和决策过程,帮助代理在恢复会话时保持上下文连贯性,避免重复错误。 这是一种针对 AI 编程助手记忆缺陷的工程实践改进。
评论点赞收藏160 天前

Route53作为键值存储:2026年更新版

作者回顾2021年提出的使用Route53 TXT记录作为键值存储的方案,指出原实现因使用长期AWS密钥和已弃用的GitHub Actions命令而过时。 文章提供了更新后的最佳实践,包括使用GitHub OIDC进行身份验证以及修复其他工程细节,适合DevOps和云原生开发者参考。
评论点赞收藏165 天前

在 GitHub Actions 中将 Route53 用作键值存储

文章指出 GitHub Actions 缺乏持久化存储功能,提出利用 AWS Route53 作为简易键值存储的解决方案。作者分享了具体的实现思路,并在 2026 年更新版中改用 OIDC 认证并修复了过时的语法,适合需要跨工作流共享状态的技术读者参考。
评论点赞收藏1752 天前

在GitHub Actions中使用复合动作

介绍如何在GitHub Actions中使用Composite Actions来模块化复用多个Shell步骤,提升自动化工作流的开发效率和代码复用性。
评论点赞收藏1845 天前

登录芦苇

登录后关注作者、收藏内容和参与讨论。