"智能爆炸"在哪里?
Ramez Naam 与 Noah Pinion 围绕"递归自我改进(RSI)是否会带来智能爆炸"展开讨论。核心观点:即便完全自主的 AI 自我改进,目前证据表明反馈回路强度需达到 5-10 倍才可能自我维持,更不用说"失控"到超级智能。 文章对比了 METR 基准、AI 2027 预测和 OpenAI 内部实际研究数据,发现真实研究任务比基准/预测难一个数量级:OpenAI 模型在 15 分钟以内任务上自主完成率仅 86%,而 AI 2027 预测 11 小时任务 80% 成功率。 Anthropic 数据显示 AI 参与 90% 以上研发任务,但零例完全自主完成。结论:AI 进步速度极快,但"奇点"未必以科幻式爆炸出现;窄域超级智能已在数学、游戏、编程中显现,但广义超级智能仍远未到来。