Thomas Dullien

RSS: https://thomasdullien.github.io/index.xml
Thomas Dullien（Halvar Flake）的个人网站，安全研究员、逆向工程师，前 Google Project Zero 成员。

实验的时代

OpenAI 安全研究团队 Thomas Dullien 在 BlueHat Asia 2026 的演讲：LLM 让软件进入"语义不确定性时代"——确定性在硬件（Rowhammer）、时间（Spectre）和语义（LLM）三个层次接连瓦解。 作者主张把 LLM 工作流当作概率系统来对待：每个 prompt 改动都是一次假设检验，需要控制方差、配对实验（"番茄农夫协议"），并警惕置信区间过窄的陷阱；他还类比 LLM 代码审查更像 fuzzing，安全漏洞管理应借用渔场模型（只跟踪捕捉率而非总量）。 核心判断：短期内 harness/prompting 的价值会持续被新模型吸收，工程人员必须转型为"业余统计学家"。有清晰立场、可争论观点和具体方法论，科技读者讨论入口多。
评论点赞收藏8 天前

我成熟过程中的三个关键认知转变

<p>我的父亲不久前去世了，他的年龄是我两倍。我如今的年纪，恰好是他生下我时的岁数；而此刻，我已经成了“老一辈”——在我之上的一代人已不复存在。</p><p>与此同时，我最近加入了一家以年轻人为主的公司。2011年我刚满30岁入职谷歌时，那正是当年谷歌主流人群的年龄段。公司里有不少资历更深的前辈，其中最资深的几位已过五旬，还曾在贝尔实验室历练多年。<br><br>我由衷敬佩这些“白发长者”（尽管这个称呼带有性别偏见——女性版的恰当说法是什么呢？其实也有几位非常资深的女工程师，我也很想把她们包括进来）。</p><p>于是，或许理所当然地，我开始反思：“自二十出头以来，有哪些重要的领悟深刻改变了我对世界的思考方式？”换个角度说：哪些洞见让我变得‘更成熟’——只要对‘成熟’有一个积极的界定即可。</p><p>本文便试图将它们一一列举。</p><p><strong>1. 认清自身激励结构的重要性，别全信自己的想法。</strong></p><p>我不久前就此话题发过一条推文。奥本海默因制造原子弹而饱受公开的罪疚感，而冯·诺依曼曾戏谑道：“有些人假装内疚，不过是想为自己的罪行邀功。”年轻时，尤其是在手握别人尚无的0day漏洞之际，我常常为随之而来的责任焦虑不已：该修复它们吗？<br><br>该善加利用吗？这样做或那样做，世界会因此受损吗？</p><p>到头来才发现：固然个人很重要，但许多观念都有其“适逢其时”的节点，个体当下的行动远不如他自以为的那么举足轻重。你也几乎无法预判自己的所作所为将如何波及更广阔的世界。</p><p>如果有人问你：“若用这个0day…</p>
评论点赞收藏40 天前

Halvar的创业指南：从动机、市场到融资的真实教训

作者曾创办两家公司并成功出售给Google和Elastic，分享其创业经验与教训。文章深入探讨了创业的动机、目标市场选择以及融资策略。 重点分析了Bootstrapping与VC融资的风险收益差异，指出首次创业者与风投在风险偏好上的错位，并揭示了VC追求幂律回报的本质逻辑。
评论点赞收藏97 天前

强化学习的经济账、道德绑架词汇与“蒸馏”迷思

作者深入分析了大模型通过强化学习突破数据瓶颈的经济逻辑，指出领先者需承担高昂算力成本， 而跟随者可低成本利用其产出追赶。文章还辨析了版权法与服务条款的界限，强调模型权重不受版权保护， 且公开数据无法被垄断。 针对业界将“基于模型输出训练”污名化为“蒸馏攻击”的现象，作者认为这是企业为掩盖商业模式缺陷而使用的道德绑架话术。他主张回归技术本质，拒绝使用带有恶意的术语，呼吁理性看待模型能力的迭代与竞争。
评论点赞收藏107 天前

让 LLM 提供“收据”：我教 Claude 进行 C++ 崩溃排查的教训

作者尝试让 Claude 自动分析 C++ 崩溃，初期因幻觉失败。最终通过构建多 Agent 协作流程，要求模型提供详细证据链并由另一模型验证，显著提升了准确性。 这种方法利用可验证的子步骤来约束大模型，解决了复杂推理中缺乏即时反馈的问题，为处理难以直接验证结果的 LLM 应用提供了新思路。
评论点赞收藏292 天前

深入理解神经网络（第5篇）：编程助手性能大比拼

作者对比了 Gemini CLI 和 Claude Code 在优化神经网络可视化代码时的表现。Claude 一次性解决性能瓶颈，Gemini 需多次提示且引入了随机数种子问题。 作者发现 AI 助手能显著加速计算，并观察到训练发散时线性函数先于多面体几何结构崩溃的现象，引发对深层网络稳定性的思考。
评论点赞收藏446 天前

A non-anthropomorphized view of LLMs

In many discussions where questions of “alignment” or “AI safety” crop up, I am baffled by seriously intelligent people imbuing almost magical human-like powers to something that - in my mind - is jus...
评论点赞收藏451 天前

去拟人化视角：重新审视大语言模型的本质

作者认为大语言模型本质上是高维空间中的概率映射函数，反对将其拟人化或赋予其意识、道德等概念。他指出当前AI安全讨论因过度拟人化而变得混乱，主张回归数学本质来定义对齐问题。 文章强调LLM虽无意识，但在解决算法难题方面具有巨大实用价值。作者建议公众和研究人员停止使用“行为”、“目标”等人类中心主义词汇，以更清晰的工程视角看待技术风险与机遇。
评论点赞收藏451 天前

理解神经网络的实验手记（三）：为何过拟合比预期更难？

作者尝试训练参数量远超数据量的神经网络，期望其过拟合记忆训练点，结果网络仍倾向于学习几何形状而非个别噪点。 这揭示了网络存在形成连续区域的内在倾向，即便在极稀疏数据下也如此，引发了对深度学习归纳偏置机制的思考。
评论点赞收藏538 天前

The German debt brake is stupid!

Welcome to one of my political posts. This blog post should rightfully be titled “the German debt brake is stupid, and if you support it, so are you (at least in the domain of economics)”. Given that ...
评论点赞收藏577 天前

互联网上有人错了（AGI末日版）

作者从应用数学和制造经验出发，反驳了AGI快速崛起并毁灭人类的观点。他指出人类知识大量存在于无法书面化的实践经验中，且物理世界存在计算不可约性。 文章强调任何技术进步都需要大量实验验证，AI无法仅靠推理获得现实世界的工艺知识，且冲突不存在零风险路径。
评论点赞收藏812 天前

登录芦苇

登录后关注作者、收藏内容和参与讨论。

热门话题

人工智能12,865 人关注AI 会怎样改变日常工作？产品思考8,243 人关注怎样判断一个产品值得长期做？独立开发5,917 人关注一个人如何持续完成作品？
关于芦苇 · 联系我们 · © 2026 芦苇