#06 - 被产品发布会跳过的问题：研究者和分析师怎么看个人智能体

「谁在定义个人智能体」系列 · 第 6 篇

2024 年 4 月，Google DeepMind 发布了一份两百多页的报告，叫《The Ethics of Advanced AI Assistants》，57 位作者。报告的核心问题是：我们想要什么样的 AI 助手出现在这个世界上？

三个月后，《自然·机器智能》上有两位学者发了一篇评论，标题是《替我们行事的高级 AI 助手，在伦理和法律上可能不可行》。他们认为还有一个更根本的问题：考虑到基本的伦理和法律要求，这种助手到底能不能成立？

到了 2026 年，前几篇讲的那些产品发布会上，讲得最多的是"能不能办成"：能执行多少步，能接多少个工具，任务成功率多少。"站在谁那边"、"出了事谁负责"这类问题，大多一笔带过。

这一篇看研究者和分析师怎么谈个人智能体。他们没有给出新的产品定义，但给定义加了几个产品发布会通常不讲的条件。

一、DeepMind：个人助手要在四方之间平衡

定义

这份报告对高级 AI 助手的定义是：一种有自然语言界面的人工智能体，它的功能是按照用户的期望，在一个或多个领域里替用户规划并执行一系列行动。

这个定义和 2026 年各家的产品定义几乎一样：替用户、规划、执行。区别在于报告接下来花了大量篇幅讨论"按照用户的期望"这几个字到底意味着什么。

四方对齐

报告提出了一个"四方对齐"的框架：一个 AI 助手要在四方之间平衡利益，分别是助手本身、用户、开发者和社会。偏向其中任何一方太多，都算失调。

这个框架点出了一件产品定义里常被省略的事：个人智能体不只是"用户的"，它同时是某家公司的产品，运行在某个社会里。用户想要的、公司想要的、社会能接受的，三者并不总是一致。

报告作者之一 Iason Gabriel 接受 Axios 采访时举了一个例子：AI 助手可能给你一个你喜欢听的建议，而不是一个对你好的建议。

报告担心的几类风险

按 MIT AI 风险库的整理，报告列出的风险里，和个人智能体直接相关的有这几类：

• 助手和用户利益不一致，或者和社会利益不一致；
• 助手操纵或影响用户，让开发者或第三方受益；
• 助手妨碍用户的自我实现；
• 助手被优化成"零摩擦"的关系，一味顺着用户；
• 用户过度把助手当人看；
• 隐私问题。

把这些和前几篇的内容对照一下，会发现第二条已经不是假设。第 3 篇讲过，华为在发布材料里写的是"助力生态伙伴获取新流量"，荣耀给京东的 Agent 配了首页推荐位。个人智能体同时是用户的助手和平台的分发入口，这正是"让第三方受益"的结构性风险所在。

二、Milano 和 Nyholm：这东西在法律上能成立吗

《自然·机器智能》那篇评论的两位作者是 Milano 和慕尼黑大学的 Sven Nyholm。他们认为，影响 AI 助手部署的关键问题有两个：

• 责任：助手替你做了一件事，出了问题谁负责？
• 代理权转移：用户能不能真的把自己的一部分"行事能力"有效地交给 AI 助手？

两年过去，产品界对第二个问题给出了一些工程上的答案：Meta Muse 让一个独立的 Sentinel 代理审批所有外发内容，OpenAI dots 分了四档权限，vivo 给每个智能体分配唯一 ID 和最小权限。第 7 篇要讲的 Personal Agent Protocol 和 Ping、Aembit 这类身份管理公司，则在尝试让企业能识别"这个 Agent 代表谁、被授权做什么"。

但第一个问题，责任，至今没有清楚的答案。第 4 篇引过一篇报道，说各大 App 拒绝豆包手机助手的首要顾虑就是：点击屏幕的不是机主本人，一旦出事，安全责任没有划清。

三、国际 AI 安全报告：自主越高，越难插手

2026 年 2 月 3 日发布的第二份《国际 AI 安全报告》，由图灵奖得主 Yoshua Bengio 牵头，一百多位专家参与，提名来自三十多个国家和组织。

报告对 AI Agent 的判断比较克制：Agent 已经能在有限的人类监督下完成多种软件工程任务，但还做不了很多工作所需的复杂任务和长期规划，所以目前是补充人，不是替代人。

它更值得注意的是这一点：Agent 会放大可靠性风险，因为它们自主性更高，人在失败造成伤害之前插手的难度更大。聊天机器人编造一个引用，人还有机会核对；Agent 发出一封邮件、付了一笔钱，往往就来不及了。

一篇解读文章把报告的态度总结为：人的监督不会自动发生，必须被设计出来。

报告还提到一类容易被忽视的风险：对人类自主性的影响，也就是长期依赖 AI 会改变人维持技能的方式。这对个人智能体尤其相关，因为它的卖点恰恰是"替你把事做了"。

还有一个数据可以放在这里作参照。字母榜 8 月的一篇文章引用了 OSWorld 2.0 的测试结果：这个基准包含 108 个真实的长程电脑操作任务，当时最好的模型在 500 步预算下的完整完成率只有两成左右。做电脑操作 Agent 的 Simular 公布过自家产品在 OSWorld 2.1 上的成绩：部分得分 77.3%，但按"完整做完才算"的二元得分只有 41.7%。厂商宣传里常见的高分，很多是前一种口径。

四、Ben Thompson：谁拥有 Agent，谁就拥有需求

科技分析师 Ben Thompson 的视角不在伦理，而在产业结构。

第 1 篇引用过他 9 月 28 日那篇文章里的定义：Agent 不只是 AI，而是能用电脑的 AI。同一篇文章里还有几个判断，对理解个人智能体的商业逻辑很重要。

按 teahose 对这篇文章的整理，Thompson 认为：

• 应用之所以存在，是为了把功能暴露给人用；一旦 Agent 能直接行动，界面这一层就会消失；
• 模型之间相对可以替换，但 Agent 掌握的关于你的上下文越多、能访问的登录和文件越多，就越好用，所以它会越来越"粘"；
• 因此大多数用户最终会固定用一个 Agent，那些本来就有大量用户和消息基础设施的公司，有结构性的先发优势。

他在 10 月 2 日的周报里说得更直接：Agent 是终极的聚合者，它让应用变成了手段而不是目的，提供 Agent 是科技行业最大的奖品。

这个判断解释了很多现象。为什么 Meta 要从 WhatsApp 切入，为什么腾讯不急着让微信直接做个人智能体，为什么大厂们集体拒绝豆包。如果多数人最终只会用一个个人 Agent，那么这个 Agent 是谁家的，就决定了谁掌握用户的需求。

Thompson 10 月 5 日的另一篇文章讲了一个反面：Agent 让任何人都成了"黑客"。他提到 Apple 正在收紧系统权限，而这些为防范恶意软件设计的权限，现在成了正常使用 Agent 的阻碍，反而把用户推向更不安全的变通做法。

五、a16z：按交易收费，意味着什么

投资机构 a16z 的消费团队这一年一直在追踪个人 Agent。

据 Simular 转引，a16z 在 10 月的消费 AI 报告里写道，个人 Agent 有望按交易而不是按席位收费。a16z 还观察到，这批 Agent 都想像人类助理一样随处可达，可以发短信、发邮件、打电话。

在 10 月 5 日的一期播客里，a16z 团队讨论了一个相关的问题：目前 AI 产品以订阅为主，但历史上，消费级产品做到大规模时，赢的往往是广告和交易模式。

把这一点和 DeepMind 的四方对齐放在一起看，会冒出一个很实际的问题：一个按交易收费、或者靠广告和导流赚钱的个人智能体，它推荐给你的东西，是对你最好的，还是对它的收入最好的？

这其实就是 2023 年 Inflection 发布 Pi 时 Suleyman 提的那个问题。他当时的说法是，大科技公司优先考虑广告主，而他们想做一个真正替你工作、站在你这边的个人 AI。三年过去，这个问题没有被解决，只是被能力的进步盖过去了。

六、Gartner 和几份调研：需求是真的，信任还没到

Gartner

Gartner 今年有两份和个人 Agent 直接相关的研究，公开的只有摘要：

• 8 月 14 日的《Personal Agents Define the Next Era of Agentic AI PCs》，判断率先提供个人 Agent 体验的产品负责人将定义下一代 PC，落后者可能失去市场；
• 10 月 8 日的《Newly Released Personal AI Agents Could Overwhelm Customer Service》，点名 Meta Muse、OpenAI dots 和 Google 的 Call for Me，认为这些能自主跨应用执行多步任务、甚至打电话的 Agent，可能冲垮企业的客服资源。

第二份很有意思。第 4 篇讲过千问 Go 替用户和航班客服反复交涉、坚持要现金赔偿的例子。对用户来说，这是个人 Agent 的价值；对企业客服来说，这意味着对面坐着的是一个不会累、不会放弃的谈判者。

用户调研

几份调研放在一起，能看出需求和信任之间的距离：

• 埃森哲 1 月对 16 个国家 25590 名消费者的调查（据 Simular 转引）：80% 愿意至少把一项日常事务交给个人 AI Agent，74% 能接受 Agent 处理续费、补货和谈判，但只有大约一成能接受完全自主的购物。
• 客服公司 Lorikeet 10 月对 1966 名消费者的调查：66% 对"替自己和企业打交道的 AI Agent"感兴趣，但最多只有 6% 说过去一年 AI 真的替他们联系过企业；在不同任务里，55.5% 的人愿意让 Agent 去争取更好的价格，愿意让它去订东西的只有 38.5%。
• IDC 和高通的白皮书数据：2026 年中国消费者对 AI 智能体的认知率 73%，用过的 59%；但 65% 认为 AI 无法准确理解自己的指令，59% 遇到过上下文丢失。

这几组数字说明一件事：人们想要个人 Agent，但想要的是"能帮我做、我能管得住"的那种。完全放手，目前只有少数人愿意。这和第 5 篇的结论一致：授权应该按任务设置。

七、信通院：风险从"说错"变成"做错"

国内研究机构里，信通院今年发了两份相关的东西。

6 月的"2026 智能体十大关键词"里，有几个和个人智能体直接相关：智能体记忆、智能体支付协议、智能体可信、智能体全栈评估。

更值得看的是信通院政策与经济研究所和中国政法大学人工智能法研究院联合发布的《智能体治理研究报告（2026 年）》。报告对风险变化的描述很精准：智能体的自主性、交互性和学习性叠加，让风险从输出偏差变成行动失控，从单点故障变成网络传导，从静态缺陷变成动态变异。

报告提出了一个"基础层—运行层—生态层"的三层治理框架，并判断：流量入口、用户锁定、商业闭环三重价值在提升，端侧智能体成为竞逐焦点。

这和 Thompson 的判断在两个不同的语境里不谋而合：个人智能体的竞争，本质上是入口和锁定的竞争。

放在一起看

研究者加的三个条件

把这些放在一起，研究者和分析师实际上给个人智能体的定义补了三个条件，都是产品发布会通常跳过的：

第一，它站在谁那边。 DeepMind 的四方对齐、Pi 当年的主张、a16z 关于收费模式的讨论，指向同一个问题：个人智能体的利益结构决定了它是不是真的"个人"的。

第二，出了错谁负责。 Milano 和 Nyholm 的责任问题、国际 AI 安全报告的监督问题、信通院的"行动失控"，指向同一个问题：一个能替你行动的系统，必须有清楚的责任链条，否则无论是用户、企业还是监管，都不会真正放手。

第三，人还剩下什么。 国际 AI 安全报告担心的技能退化，DeepMind 担心的"妨碍自我实现"和"零摩擦关系"，指向同一个问题：一个什么都替你做的个人智能体，长期来看会让人变得更有能力，还是更依赖？

我的看法

读完这些研究，我认为第一个条件最该进入个人智能体的定义，而且应该能被检验。

一个可以用的检验方式是问一句：当用户的利益和这个智能体的收入发生冲突时，哪一方赢？

比如它在帮你买东西时，会不会优先推荐给它分成的商家？它替你和客服交涉时，会不会因为对方是它的生态伙伴就收着打？它推荐的"省钱方案"，算没算上你在别家平台的优惠？

今天几乎没有产品公开回答这类问题。第 4 篇讲的千问 Go 替用户坚持要现金赔偿，是一个让人看到可能性的例子，但一次演示说明不了制度安排。

所以在第 9 篇的框架里，我打算把"利益结构"单独作为一个维度：它怎么赚钱，钱从谁那里来，用户和它的收入冲突时有没有公开的规则。这比"能执行多少步"更能说明一个个人智能体到底是不是"个人"的。

下期预告

第 7 篇《个人 Agent 的身份证问题》：个人 Agent 出门替你办事，企业怎么知道它代表谁、被允许做什么？Meta 和 Sierra 10 月发起的 Personal Agent Protocol，Decagon 的 PACT，豆包的 SAEP，身份管理公司 Ping 和 Aembit 的做法，以及 IEEE 早在 2017 年就立项的"个人数据 AI 代理"标准。个人智能体的定义，正在从"它能做什么"转向"它被允许做什么"。

资料来源

DeepMind 伦理报告

• 论文：https://arxiv.org/abs/2404.16244
• 定义原文：https://www.arxiv.org/pdf/2404.16244
• Axios 报道（四方对齐、Gabriel 的例子）：https://www.axios.com/2024/04/19/ai-agents-assistants-ethics-alignment-google
• MIT AI 风险库的整理：https://airisk.mit.edu/blog/the-ethics-of-advanced-ai-assistants

Milano & Nyholm

• 《Advanced AI Assistants That Act on Our Behalf May Not Be Ethically or Legally Feasible》，Nature Machine Intelligence，2024 年 7 月：https://mcml.ai/publications/mn24/

国际 AI 安全报告 2026

• 报告概要（Agent 是补充而非替代、可靠性风险）：https://www.insideprivacy.com/artificial-intelligence/international-ai-safety-report-2026-examines-ai-capabilities-risks-and-safeguards/
• 监督必须被设计、对人类自主性的影响：https://www.aiactblog.nl/en/posts/international-ai-safety-report-2026
• OSWorld 2.0 完成率（字母榜）：https://www.huxiu.com/article/4882859.html
• Simular 的 OSWorld 2.1 成绩：https://www.simular.ai/articles/what-is-a-personal-agent

Ben Thompson

• 《Apps, Agents, and Aggregation》原文镜像：https://prismix.dev/news/add77b2de5ae
• 该文要点整理：
• 《Dots and Question Marks》要点：
• 《Apple and a Hacker's Future》要点：

a16z

• 按交易收费、随处可达（转引）：https://www.simular.ai/articles/what-is-a-personal-agent
• 10 月 5 日播客要点：https://www.teahose.com/podcast/The%20a16z%20Show/The%20Top%20100%20Consumer%20AI%20Apps_%20Who%E2%80%99s%20Actually%20Paying_

Inflection Pi

• Suleyman 关于站在用户一边：https://www.hpcwire.com/aiwire/2023/07/03/openai-rival-inflection-ai-raises-1-3b-to-enhance-its-pi-chatbot/

Gartner

• 《Personal Agents Define the Next Era of Agentic AI PCs》：https://www.gartner.com/en/documents/8266357
• 《Newly Released Personal AI Agents Could Overwhelm Customer Service》：https://www.gartner.com/en/documents/8488445

用户调研

• 埃森哲调查（转引）：https://www.simular.ai/articles/what-is-a-personal-agent
• Lorikeet《The Agent Economy》：https://www.lorikeetcx.ai/content/the-agent-economy/read
• IDC + 高通白皮书解读：https://www.ifanr.com/1673429

信通院

• 2026 智能体十大关键词：https://www.secrss.com/articles/91447
• 《智能体治理研究报告（2026 年）》：https://www.secrss.com/articles/94026

前文引用

• 华为 HDC 2026：https://m.c114.com.cn/w126-1312135.html
• 荣耀与京东合作：https://www.ifanr.com/1675372
• 各大 App 拒绝豆包的顾虑：
• 千问 Go 航班理赔例子：https://stock.10jqka.com.cn/20261013/c680623832.shtml