AI 灭绝风险的概率（仍然）过于不可靠，不足以指导政策
作者复现了两年前一篇对 AI 灭绝风险概率（p(doom)）的拆解文章，认为当前这些概率估算仍不严谨，只是用数字包装模糊的直觉和恐惧，却反过来影响了公共讨论和政策注意力。 作者强调并非指责预测者有意误导，而是认为量化本身在缺乏方法论支撑时具有误导性。该文在 p(doom) 话语热度上升的背景下重新发出，观点明确，适合对 AI 安全、风险量化和政策影响有讨论兴趣的读者。
评论
点赞
收藏AI能做什么，我们还能做什么？
Princeton教授基于ICML主题演讲提出“AI作为正常技术”框架，指出能力跃升不等于可靠性提升，自动化与协作Agent需区别对待。通过分析软件工程师数据，论证代码编写并非瓶颈，“决策层”才是核心价值所在，未来工作将转向人机协同而非单纯替代。
Up the Stack: How AI's Escape from the Commodity Trap Risks Enterprise Lock-In
By Arvind Narayanan and Akash Kapur Our goal in this essay is to move beyond the debate over whether AI is a bubble. We do so in two ways: clearly separating current financials from the question of wh...
为何AI尚未、也不会取代软件工程师
文章通过拆解Block、Snap等公司的裁员真相，指出“AI裁员”多为借口。提出“决定-执行-交付”三明治模型，论证AI仅压缩执行层，而决策与责任归属仍依赖人类。 结合美联储数据与GitHub实证，反驳AI大规模替代程序员的叙事，认为工程师角色将转向监督AI，且知识工作中人类在两端的核心地位难以被自动化取代。
谷歌AI代理真能用916美元构建操作系统吗？
<p>独立评估的重要性</p> 
AI风险需要政府非常规干预吗？
探讨AI风险是否需要政府进行非常规干预，主张不应跳过AI治理的艰难工作，强调务实的监管路径。
用于衡量前沿AI能力的开放世界评估
介绍CRUX项目，旨在评估AI在长且混乱的真实世界任务中的能力，填补现有基准测试的空白。
新论文：迈向AI代理可靠性的科学
发布新论文，探讨如何量化AI代理的能力与可靠性之间的差距，推动AI代理可靠性的科学研究。 
AI不会自动让法律服务更便宜
应用“AI作为正常技术”框架分析法律服务行业，论证AI不会自动降低法律服务成本，挑战常见假设。 
事实核查：莫拉维克悖论
对著名的“莫拉维克悖论”进行事实核查，指出该格言既不完全真实也无实际用处，挑战了AI领域的传统认知。
理解“AI作为正常技术”指南
<p>而且这封新闻通讯将迎来重大变化。</p> 
AI会减缓科学进步吗？
探讨AI是否可能通过“生产-进步悖论”减缓科学研究的进程，引发对AI在科研中作用的反思。
AGI并非一个里程碑
文章提出AGI并非一个单一的能力阈值或里程碑事件，而是一个渐进的过程，反驳了突然产生巨大影响的观点。
AI进步正在放缓吗？
探讨近期技术趋势与AI发展速度是否放缓的观点，分析技术进步的常态化和去泡沫化现象。 
我们分析了78个选举深度伪造：政治虚假信息不是AI的问题
分析78个选举深度伪造视频，指出政治虚假信息并非AI本身的问题，技术既非问题也非解决方案。
英国的肝移植匹配算法系统性地排除年轻患者吗？
揭示英国肝移植匹配算法可能系统性地排除年轻患者，指出微小的技术决策可能产生生死攸关的影响。
关于本书及我们写作过程的常见问题解答
AI as Normal 团队对其新书内容及写作过程的常见问题解答，介绍书籍涵盖的范围和创作背景。 
AI能自动化计算可重复性吗？
介绍新基准测试，衡量AI在提高科学计算可重复性方面的影响，探讨AI自动化科学复现的潜力。
在线阅读《AI Snake Oil》一书
一篇简短公告，告知读者《AI Snake Oil》一书已于2024年9月出版，并提供在线阅读入口。
AI 公司正从“创造神”转向“打造产品”
分析将 AI 模型转化为商业产品面临的五大挑战，探讨行业从技术崇拜向务实落地的转变。
AI 存在性风险的概率估算不可靠，不足以支撑政策制定
文章指出当前对AI存在性风险的概率预测缺乏可靠性，认为这些伪量化数据被用来包装投机观点，不应作为政策制定的依据。