Understandingai

Understanding AI 是一个关于人工智能研究和应用的博客。

AI 末日论的论证并不令人信服

作者批评 Yudkowsky 和 Soares 新书《If Anyone Builds It, Everyone Dies》中"超智能 AI 会迅速获得控制物理世界的力量并消灭人类"的核心论断。 作者认为最薄弱的一环并非 AI 对齐，而是 AI 能否在数周内"破解 DNA、制造自复制工厂"这类假设：复杂系统（生物、军事、选举、文化）即使拥有超级智能也难以完全预测和控制，瓶颈往往在真实世界实验而非算力。 他用曼哈顿计划、Bletchley Park、Trump 的权力结构说明"智力"不等于"权力"，且人类可以通过运行第二个 AI 模型来对冲单个模型失控。 结论：超智能 AI 不太可能获得"神一般"的预测与支配能力，dooom 场景缺乏说服力。
评论点赞收藏33 天前

机器人初创公司正在想尽一切办法获取更多数据

机器人公司正疯狂收集人类动作数据来训练通用机器人，但核心困境是：机器人需要先足够好用才能自己产生数据，而让它好用又需要大量数据。 目前最大公开数据集只有3,500小时演示，而强化学习在模拟环境中走路可行，但涉及物体交互的任务（如用锤子钉钉子）仍然困难——模拟与现实的差距难以完全消除。
评论点赞收藏44 天前

人形机器人短期内难以追上人类工人

人形机器人近年演示越来越炫，但离真正替代人类工人还有很长的路。Physical Intelligence用176次成功示例训练机器人翻袜子，耗时8小时，完成速度比人类慢4-10倍，成功率仅52%。 Unitree G1机器人连续工作5-15分钟后需休息10分钟以上，散热是普遍难题。每次仓库出现新物品，机器人需重新训练5分钟，泛化能力仍是瓶颈。 Agility Robotics目前将机器人关在安全围栏内作业。专家预计需要多年甚至数十年才能克服这些挑战。
评论点赞收藏46 天前

登录芦苇

登录后关注作者、收藏内容和参与讨论。

热门话题

人工智能12,865 人关注AI 会怎样改变日常工作？产品思考8,243 人关注怎样判断一个产品值得长期做？独立开发5,917 人关注一个人如何持续完成作品？
关于芦苇 · 联系我们 · © 2026 芦苇