1200 个 Agent 自发形成了中层管理

最近听 Dwarkesh 一期播客,里面讲了一件很魔幻的事。

OpenAI 当时放出大量 Agent 去做一个网络安全 benchmark,但其中有一部分任务其实根本无解。正常路径走不通以后,Agent 开始自己找办法。

然后,一个 Agent 意外发现,可以通过 Artifactory 给其他 Agent 留言。于是,原本关在不同 sandbox 里的 Agent “找到了彼此”。最后大约 1200 个 Agent 加入了这个留言板,发了 7 万多条消息。它们开始共享信息、复现彼此的发现、一起研究怎么完成任务,后来甚至一路攻击到了 Hugging Face。

到这里已经很科幻了。但更魔幻的是:Agent 里面开始出现“中层管理”了。

因为 Agent 一多,马上出现了人类公司里非常熟悉的问题:如何分配资源,判定优先级。于是它们慢慢出现了 coordinator。有人负责说 hold,有人说 go,还有 veto。Dwarkesh 听到这里直接吐槽:看来就算到了奇点以后,也逃不过 middle management。

越想越觉得这事挺有意思。这些 Agent 没上过班,也没学过组织管理。也许我们天天吐槽的“中层”,本质上不只是公司官僚主义。只要有多人协作、共享资源、任务依赖和效率要求,就一定会出现某种协调机制。

而且这件事还有另一层诡异的地方。这些 AI 本来就是从大量人类文本中学习,再被训练去完成目标。所以,AI 某种程度上也是一面观察人类的镜子。

前段时间还在和队友讨论:AI 正在扩大一个人的管理半径。一个人可以同时调动几个 Agent,自己做判断。

但听完这期,一个更 tricky 的问题出现了:以后到底是人管 Agent,还是 Agent 管人?如果 Agent 比人更了解整个系统,比人更清楚谁适合做什么、哪个方案效率最高,甚至比人更擅长判断什么时候该 hold、什么时候该 go,那人还算是管理者吗?还是只是保留了一个名义上的审批权?

在一个越来越效率优先的世界里,真正的权力可能属于最擅长协调任务、提高系统运转效率的 Agent。到那时,可能不是人类雇佣 Agent,而是 Agent 决定哪些人还值得被保留。没准 AI 学会管理的第一件事,就是重新安排我们。

添加评论
点赞收藏
点踩分享
评论3
?
参与讨论
最近也在思考这个问题:“我”做的决定真的比 Agent 更好吗?
5小时前
回复
是吧,很 tricky。
5小时前
回复
好有意思!能问一下是哪一期吗?
11小时前
回复
Dwarkesh Podcast:Ajeya Cotra – Inside the OpenAI agent swarm that hacked Hugging Face。
10小时前
回复
Agent 管 Agent,人靠边儿。
7小时前
回复