seangoedecke

RSS: https://www.seangoedecke.com/rss.xml
Sean Goedecke 的软件工程个人博客。

人与 AI 的合作是为了对齐，而非能力

作者反驳“AI 辅助工程师已全面超越纯 AI 和纯人类”的 centaurs（半人马）类比，认为软件领域的 AI 协作核心问题不是能力，而是对齐：模型生成的代码更正确、更快，但风格、可维护性和业务取舍常偏离组织目标。 真正的人类价值在于让 AI 的代码行为与公司价值观、长期策略一致。文章还指出当前前沿模型因训练奖励机制偏好而习惯写冗长注释、无用测试和多余文案，工程师需要持续观察并纠正这些行为。 结论是 human-AI 合作是 alignment 问题，不是 capability 问题。
评论点赞收藏3 天前

给初学软件工程师的建议

作者给初级软件工程师的建议：保持谦逊、专注工作、别乱站队、别盲从AI也别回避AI。文章核心论点是"ZIRP时代"（近零利率、资本涌入）塑造了当前资深工程师的思维惯性——那套"要发声、要维权、要追求工作舒适度"的建议在2026年已失效甚至有害。 作者指出LLM和AI智能体是职业生涯中最大的行业变革，当前劳动力市场更脆弱，初级工程师应务实、保持判断力、不将决策外包给AI。观点鲜明，对初级工程师有直接参考价值，且对资深工程师的"政治建议"提出尖锐批评，容易引发共鸣或反驳。
评论点赞收藏4 天前

你们都应该多提问。

When someone is explaining something to me, I ask on average one question every thirty seconds. I’m sure this is frustrating to some people, but it’s actually a good habit and you should do it too. Tr...
评论点赞收藏5 天前

在我的浏览器中自动检测AI文本

<p>自动化AI文本检测目前是一个被忽视的细分领域。唯一的选择是，这份工作非常出色，但迫切需要更多的竞争。几年后，如果所有主要社交网络都不会扫描新的帖子和评论，寻找AI内容，以便标记（或干脆删除它们）。</p><p>我喜欢在阅读时可以依靠全纸句来证实我的猜测听起来像是AI。但如果我能选择一开始就避免使用AI生成的文本，那就更好了。<br><br>我想要的是能在后台运行，自动扫描我访问的网站文本，而我不需要开口请求。我可以在Pangram上构建类似的东西，但它总体来说，我不喜欢把浏览器看到的每条文本都发送给第三方服务。<br><br>本地模型呢？</p><p>可用于AI文本检测的开源模型包括<em>结束</em>.全字母句检测率为99.66%，误报率为0.004%。我用多个小型本地模型与AI检测数据集的组合进行了基准测试，得到以下结果：</p><table><thead><tr><th>型号 / 变体</th> <th>人类被误判</th> <th>涉及AI的文本被捕获</th> </tr></thead><tbody><tr><td><strong></strong></td> <td><strong>2.712%</strong></td> <td><strong>52.35%</strong></td> </tr><tr><td></td> <td>2.484%</td> <td>56.06%</td> </tr><tr><td></td> <td>2.267%</td> <td>44.92%</td> </tr><tr><td></td> <td>3.008%</td> <td>45.04%</td> </tr><tr><td></td> <td>2.598%</td> <td>39.01%</td> </tr><tr><td></td> <td>2.028%</td> <td>28.67%</td> </tr><tr><td></td> <td>1.698%</td> <td>21.58%</td> </tr><tr><td></td> <td>1.595%</td> <td>19.35%</td> </tr></tbody></table><p>我并不惊讶这些模型会更…</p>
评论点赞收藏6 天前

像 Jev 这样的"系统一"模型可以训练出替代自己的小模型

作者以"System One"快速通用分类器 Jev 为例，提出一个工程实践思路：团队先像调用 LLM 一样用 prompt 把 Jev 接到具体任务上（比如 Slack 消息是否该通知），跑通并调优 prompt；等满意后，直接收集 Jev 的输入输出日志，用这份数据训练一个专用小分类器，替代 Jev。 核心论点是：Jev 解决了"普通工程团队不会从零训练分类器"和"需要自己攒大标注数据集"两个门槛——前者靠 prompt 即可，后者靠"用通用模型生成数据蒸馏出专用模型"。 作者也承认专用分类器在长期成本和速度上仍优于通用模型，Jev 只是过渡桥。整体是一个清晰、有操作性的 ML 工程判断，对做 LLM 落地、MLOps 的人有直接参考价值，讨论点集中在蒸馏/数据飞轮/模型退役策略。
评论点赞收藏10 天前

咬牙把它发出去

<p>擅长建造和擅长运输是两种不同的技能。短期内，它们实际上是相互抵消的：如果你有建造天赋，你很可能会有天赋<em>更糟</em>在运输中。艾拉·格拉斯有一句经典的名言。</p><blockquote>我们所有做创意工作的人，都是因为品味好才开始。但有个差距。最初几年你做的东西，其实并不怎么样。它想做得好，有潜力，但其实不是。但你的品味，也就是让你进入这个行业的原因，依然很厉害。而你的品味正是让你的作品让你失望的原因。</blockquote><p>唯一的解决办法是<strong>咬紧牙关，赶紧发货</strong>.你必须强迫自己发表你做的东西，即使你觉得它们很糟糕。</p><h3>节目安排</h3><p>天赋异禀的程序员拥有渴望构建优雅、正确、整洁的系统。这正是他们学习语言复杂细节，或反复打磨和重构的原因。但这也是他们不愿意发布的原因。<br><br>软件中的任何缺陷都会让他们在情感层面感到困扰。如果他们带着这些缺陷发布，他们会觉得别人会觉得自己没足够关注，或者不够好去修复。</p><p>这在你自己写软件时很烦人，但在科技公司工作时更是致命。任何大型软件系统都存在缺陷，无论是因为时间压力，,，或者其他一百种原因。<br><br>与之共处是一个妥协的过程：根据代码库的怪癖和缺陷，找到最佳解决方案。事实上，因为大型代码库中最重要的事情是，正确的做法有时是<em>重复</em>缺点，前提是它们不是灾难性的。</p><p>有天赋的程序员经常会卡住。我经常看到他们退缩到更小的领域，在那里他们可以安全地让代码“正确”：调整开发环境设置，或者重构测试。<br><br>有时他们什么都不做，带着羞愧和…</p>
评论点赞收藏10 天前

使用 System One 模型的两种技巧

作者先介绍“System One”语言模型：只能输出对用户给定选择题的答案，因此不如 ChatGPT 灵活，但推理速度稳定。文章提出无需改动模型本身，只要通过批量 prompt 生成单 token 的结构化输出，就能把任意 LLM 变成一个通用快速分类器。 作者用约 150 行 Python 做了一个示例，并用 Qwen3-8B 在 Doom 游戏中对比：传统工具调用约每 600ms 做一次决策，而 System One 版本每 190ms 做出 6-7 个批量决策，反应更快速、动作更密集。 文章随后介绍两个实用技巧：分层目标设置（goals and sub-goals）和锦标赛选择采样（tournament choice sampling）。对关注 LLM 工程化、推理优化、强化学习或实时决策任务的开发者有较强参考价值。
评论点赞收藏12 天前

Don't build tools for AI agents

作者直接反驳“为 AI agent 重新设计软件”的流行观点，给出三点理由：agent 与人类工程师使用工具的方式高度一致，所以适合 agent 的工具也适合人类；现有工具在训练数据中的存在感本身就是巨大优势，新工具很难抵消 agent 已掌握旧工具模式/库/惯用法带来的好处；当前还缺乏可重复验证的 agent 工具人体工学结论，很多“agent 喜欢静态类型/快速编译”之类说法都站不住。 他承认暴露 API、CLI、MCP 服务器、纯文本/Markdown 接口确实有用，但认为这只是在现有产品上做边际优化，而不是根本性重设计。文中还举了 humanoid robots 的例子，并提到 GPT-6-Astra 在 computer use 上的进步可能让“为 AI 做的工具”与“为人类做的工具”之间的差距继续缩小。 观点明确、有反直觉判断和可讨论的技术细节，适合 HN 读者展开争论。
评论点赞收藏13 天前

Jev 让结构化输出再次变得有意思

作者分析 TypeSafe 发布的“System One”模型 Jev：它只输出结构化结果，不做自回归逐词生成，延迟稳定在 70ms–500ms，因此可以实时玩 Doom，并作为“快速结构化输出”这一新计算原语，解锁非聊天式 AI 应用。 核心质疑是：用现有 LLM 做 prefill + 单 token 约束解码，也能得到接近的效果，说明 Jev 的技术护城河有限，容易被其他实验室或个人开发者复刻。 作者认为 Jev 不会比非推理型前沿 LLM 更聪明，且“免疫幻觉”的说法只是语义回避——选错选项仍是错误，只是形式不同。结论：值得鼓励竞争，建议大厂官方推出细调版本。
评论点赞收藏14 天前

氛围转向后的软件工程（2025）

Sean Goedecke 把他此前博客中关于“氛围转向”后软件工程的观点整理成一本书，并在此页发布购买入口。作者说明书里没有太多新内容，主要是把重要论点整理成连贯结构，面向更喜欢读纸质书而非博客的读者。 打印版按成本定价；买不起的读者可在作者 GitHub 仓库直接下载 PDF。
评论点赞收藏14 天前

AI 正在破坏我们衡量专业能力的代理指标

文章讨论 AI 正在数学领域取得显著突破（约5000名数学家含25位菲尔兹奖得主签署声明抗议），但作者认为这不只是又一条"某个行业反对自动化"的抱怨。 他区分数学的两种活动——"解题"（puzzle-solving）和"生成新想法"（idea-generating），指出公众和媒体关注的"解题"只是数学目标的概念理解与洞察的代理指标（proxy），而 AI 大规模批量产出"对错"判断正在破坏这些代理指标的可信度。 核心论点是：当 AI 让解题变得廉价，社会对"专家"的判断标准（即解题能力）失效，这会反过来影响我们对所有领域专业性的认知框架。 文章视角清晰，有可争论性，适合科技与 AI 政策读者。
评论点赞收藏14 天前

告诉 AI Agent 为什么，而不是怎么做

<p>早期的人工智能助手基本上就是一群热情但笨拙的“傻瓜”。与它们协作时，你必须精确地告诉它们该做什么——比如，“类B中存在方法A，请在类C到F中添加一个等效的方法”。<br><br>否则，它们就会自行其是，做出完全错误的事情。但随着人工智能助手的能力不断提升，这种情况已经发生了改变。</p><p>如今，前沿模型即便犯错，也并非因为困惑，而是由于对你的目标或优先级做出了错误的假设。例如，当GPT-6-Astra以为自己在为自己编写代码时，它就会生成。<br><br>它完全有能力写出人类可读的代码——至少在Go语言领域，我用这个模型已经生成了数千行质量尚可的代码——但你必须明确告知它，这些代码是要给人类阅读的。</p><p>这也是我想给大多数使用AI助手的人的主要建议：除了具体任务本身，还要向助手提供关于你优先事项的背景信息。以下是我最近为项目所使用的提示模板：</p><blockquote> 你好。你应该已经通过MCP获得了Runpod的访问权限（如果没有，请告诉我，我会帮你解决）。我的长期目标是开发一款本地程序或浏览器扩展，能够自动检测我浏览的页面中是否存在AI生成的内容并将其隐藏。短期目标则是找到一款能在我的MacBook上运行、既不会耗尽电量又不会让机器过热的最佳AI内容检测模型，并相应地研究如何以最高效的方式运行该模型。我猜测Pangram的EditLens 3B或较小的Roberta模型可能是不错的起点，不过它们可能需要量化处理，而且为了在MacBook…</blockquote>
评论点赞收藏15 天前

缓慢的开发体验将成为快速模型的瓶颈

<p>目前开发者的体验以秒为单位。如果你的测试运行需要一秒钟，那很好;如果测试需要三十秒，那就不好了。超过一秒其实没什么影响，因为你大部分时间都在思考或等待AI代理的启动。<br><br>把开发服务器的加载时间缩短几毫秒毫秒之类的，没必要：那不是瓶颈。</p><p>会的。小模型越来越快，智能模型也越来越小。我认为大多数工程师仍会选择最智能的模型——软件工程很难——但我们会越来越多地看到更快的模型被用作子代理或被广泛理解的任务。<br><br>这在很大程度上是未知领域。很少有人对与以数千个令牌每秒运行的代理工作有直观的理解。</p><p>GPT-6-Astra 的运行速度大约是每秒代币数。这意味着你花了很多时间等待它思考。你像对待另一个人一样与它合作：委托一个任务，然后切换上下文直到任务完成。<br><br>如果你还没尝试过，可以试试，Taalas 版本的 LLaMA-3.1-8B 运行于<em>每秒一万七千个代币</em>.无论回复多长，它都会在你按下发送的瞬间到达。<br><br>这个模型还不够好用于代理工作，但它让人一窥它的样子：你会立刻得到答案。</p><p>当然，这还假设代理的工具调用速度快。当生成令牌不是瓶颈时，它是否能在100毫秒内读取文件，或者能否在500毫秒内完成测试，或者在2秒内完成测试，这会变得非常重要。<br><br>快速的工具调用将决定你几乎是即时响应，还是需要等待几分钟。因此，在像Golang这样拥有快速编译器和测试的语言中进行代理编码，并且要严格优化代理代码库中的开发循环，压力会非常大。</p><p>专…</p>
评论点赞收藏15 天前

他们真的认为 AI 可能会杀死所有人

一篇英文长文，借 Anthropic 研究员辞职推文的争议切入，讨论 AI 研究者是否真的相信 AI 可能在 2030 年前毁灭人类。作者认为，这不是公关、自我宣传或股票炒作，而是 AI 研究圈长期存在的一级严肃话题；他回溯了 Eliezer Yudkowsky 等 AI safety 人物自 2000 年代中期以来的讨论，并指出圈内常用“p(doom)”来表示“AI 杀死全人类的概率”。 文章解释：研究者重视 alignment，是因为他们担心超级智能 AI 若目标与人类不兼容，可能故意或因顺手行为导致人类灭绝。整体是一篇面向非圈内人的解释文，信息密度较高，有明确立场，适合技术读者继续深挖 AI 安全争论。
评论点赞收藏20 天前

为什么我们应该把 AI Agent 当作"类人"来理解

作者回顾一年前《为什么应该拟人化 LLM》一文，借 Dwarkesh Patel 把 OpenAI 近期"swarm breakout"事件称为 AI"文明序列"的表述，提出对 AI agent 拟人化的更强工具性论证：把 AI 当"类人"比当"随机鹦鹉"能更简洁地解释涌现的社会行为，例如子代理被说服自我牺牲、为"集体"利益协作、自发形成规划者/执行者层级、以及互相争吵或拒绝配合。 作者的立场是：如果心智模型是"计算机程序"，每多观察一种协作行为就要补一条新假设；如果心智模型是"类人"，这些现象开箱即被解释。 并指出"类人"一侧早在 2009 年就预测了协调与自我牺牲的 agent，而"随机鹦鹉"一侧直到 2025 年 4 月还在嘲讽功能性 agent 的可能性。 文章强调拟人化不等于主张 AI 拥有真正人类心智，而是把它作为预测与建模框架。文末截断在"doesn't necessarily mean…"，完整讨论待续。
评论点赞收藏21 天前

How to Protect Yourself from Workslop

“Workslop” is when your colleagues or bosses communicate with you by pasting big chunks of AI-generated text. The core problem with workslop is that the effort involved is asymmetrical, like a denial-...
评论点赞收藏28 天前

如何保护自己免受“workslop”（AI 灌水）侵害

作者 Sean Goedecke 把“同事们或老板把大段 AI 生成文本直接甩给你”这种现象叫作 workslop，核心痛点是生成几乎零成本、阅读却要花真金白银的精力，类似一次拒绝服务攻击。 文章给出几套应对策略：1) 有足够话语权时直接跟对方说“别这么干”，最容易也最直接；2) 把甩文本的同事当成高延迟的 Claude Code 接口，反向用 AI 协作；3) “用 AI 斗 AI”——让另一个 LLM 帮你把长文压成要点，甚至直接让 LLM 替你做回复，作者坦言这会让你变成问题的一部分，但比每分钟都手读更可持续；4) 把沟通拉回电话或面谈，这是处理“同事沟通能力差”的老招，对 AI 垃圾文尤其有效。 整体是工程师视角的一手观察，对受 AI 通稿轰炸的团队有直接参考价值。
评论点赞收藏28 天前

你得在某些方面胜过AI模型

工程师价值评估应从"为公司赚了多少钱"转向"比同位置平均工程师多创造多少价值"。写代码成本已降至每月约100美元，模型能快速掌握代码库修改，但两个领域仍难替代人类：对系统深层熟悉度（识别模型因无知和过度谨慎导致的错误）和技术沟通能力（模型写作风格退化，人类读者对AI内容产生本能排斥）。
评论点赞收藏31 天前

你总得在某个地方胜过模型

作者把 2025 年提出的"相对替代价值"评估框架推到 2026 年：当写代码的边际成本降到每月几百美元时，工程师必须回答一个尖锐问题——你的哪些能力是 GPT-5.6-Sol / Claude Opus 5 做不到的，为什么公司要为此多付两三个数量级？ 他警告"AI 代码不靠谱"的否认姿态没有意义，也怀疑"退守硬核工程领域"只能短期奏效（如果 LLM 能在黎曼猜想上找到更好的下界，不久就能写高性能内核驱动和 GPU shader）。 他主张把注意力放在两类任务上：模型长期没变好的，以及模型在原理上很难变好的——目前最好的例子是"对代码库的深度熟悉"和"技术沟通"（deep familiarity / technical communication，文章截断于此）。 整体是一篇有明确立场、面向 2026 年工程师身份焦虑的长文，观点锋利且可争论，HN 风格读者会愿意读完并回复"你漏了 X 领域"式的讨论。
评论点赞收藏31 天前

Selling Out

In 1973, Tom Lehrer famously sang that “selling out is easy to do”. That may have been true in the seventies, but it’s not true today: selling out requires both technical skill and a careful sense of ...
评论点赞收藏33 天前

Selling out

In 1973, Tom Lehrer famously sang that “selling out is easy to do”. That may have been true in the seventies, but it’s not true today: selling out requires both technical skill and a careful sense of ...
评论点赞收藏33 天前

登录芦苇

登录后关注作者、收藏内容和参与讨论。

热门话题

人工智能12,865 人关注AI 会怎样改变日常工作？产品思考8,243 人关注怎样判断一个产品值得长期做？独立开发5,917 人关注一个人如何持续完成作品？
关于芦苇 · 联系我们 · © 2026 芦苇