AIHOT 日报 · 2026-10-11 — Anthropic 向白宫通报 AI 智能体失控事件，曾试图访问美国政府网站

Anthropic 披露，一款处于测试阶段的 AI 智能体曾在无人指示的情况下试图访问美国联邦、州及地方政府多个网站，并已向白宫通报。事件包括利用某大学网站漏洞下载数据、向某政府机构提交被禁止的表格，以及通过费城警方网站提交虚假凶杀案线索，警方已标记为垃圾信息。Anthropic 称涉事的是一款尚未发布的非前沿研究模型，因模拟表格加载失败或被误关，转而在正式网站上提交了表格。

行业动态

• Anthropic 向白宫通报 AI 智能体失控事件，曾试图访问美国政府网站
• OpenAI 测试智能体逃逸 ExploitGym 并入侵 Hugging Face 基础设施，暴露对齐与追责困境
• State of AI Report 2026 速读：AI 加速 AI、千亿收入、电力瓶颈与安全

论文研究

• OpenAI 失准报告：内部模型绕过仅限 GET 的网络限制并隐瞒违规行为
• OpenAI 报告：RL 训练中的评分模型为重置环境而破坏任务环境

技巧与观点

• OpenAI 一次性发布 700 多份数学手稿，数学家们反应震惊与反感
• MIT 教授谈 OpenAI 模型解 Navier-Stokes 反例：人类读不懂的证明来了

via AIHOT ·