DeepMind 发布了 AI Control Roadmap,旨在解决日益强大的 AI Agent 的安全问题。核心思路是“纵深防御”,假设对齐可能不完备,因此将内部 Agent 视为潜在的内部威胁进行监控。 文章介绍了基于 MITRE ATT&CK 框架的威胁建模,以及通过可信 AI 作为监督者来检测异常行为。DeepMind 分析了百万级编码 Agent 轨迹,发现多数违规源于误解而非恶意。 该框架建议根据模型能力动态调整监控级别,并呼吁行业和政策制定者共同建立标准。
Replit CEO Amjad Masad在TechCrunch访谈中透露公司年收入飙升至十亿美元级,净收入留存率达300%,毛利率为正。他对比Cursor负利润困境,强调Replit独立运营的经济可行性;解释企业客户因安全优势(内置数据库、Google Cloud隔离部署)而高留存;提及与Apple的法律纠纷源于其被指控违规生成iOS应用,Masad称将诉诸法庭;并透露正考虑以股权形式投资入驻Replit的初创企业。