返回博客
AgentOrganizationCollective Intelligence

AI 的下一条 Scaling Law,是组织能力

人们可能正在误解 Agent 最终会演变成什么。

大多数人仍然把 Agent 看作更加自动化的 ChatGPT。过去的需求是:“帮我开发这个功能。”现在则变成了:“帮我完成这个项目。”

乍看之下,这似乎只是渐进式的变化:AI 可以工作更长时间,使用更多工具,并独立执行更多步骤。

但当子 Agent、Agent Teams 或其他多 Agent 系统开始投入使用时,一些更加根本的变化也随之发生。此时,人类不再只是与一个能力更强的 AI 合作,而是在协调一群 AI。

一个 Agent 负责调查问题,一个负责实现解决方案,一个负责运行测试,还有一个负责审查结果。它们可能拥有彼此独立的上下文,相互发送消息,各自负责不同任务,并在最后整合成果。

由此,一个更值得关注的判断是:Agent 的终局形态或许不是助手,而是组织。

Anthropic 曾进行过一项实验,让16个 Claude Agent 协同构建一个用 Rust 编写的 C 编译器。在近2,000次 Claude Code 会话中,这些 Agent 编写了大约10万行代码,最终让这个编译器具备了编译 Linux 内核的能力。

表面上看,一个显而易见的结论是:如果16个 Agent 已经如此强大,那么160个 Agent 应该会更强。

如果这么推论可能就抓错了重点。真正重要的问题,并不是能否运行更多 Agent——这件事只会变得越来越容易。真正的问题是:为什么在一些情况下,10个 Agent 的表现会远远超过1个 Agent;而在另一些情况下,10个 Agent 反而不如1个?

由此可以得出一个基本判断:仅仅增加 Agent 数量,并不能构成一条有意义的 Scaling Law。

More Agents Is NOT All You Need——更多 Agent 并不意味着更强。

集体智能取决于一组更加复杂的变量:并行度、多样性、网络拓扑、验证机制与协调方式。

一旦从这个角度看待 Agent,问题就不再只属于 AI 工程,而会回到一个更加古老的问题:智能应当如何被组织?

Agent 不是 GPU

AI Scaling Law 的成功,让行业逐渐形成了一种特定的思维方式。

如果一个模型能力不够,就增加参数;如果性能还在持续提升,就增加数据和算力。投入更多资源,通常可以获得更好的结果。

因此,人们很自然地把同样的直觉延伸到 Agent 上:如果一个 Agent 有用,10个应该更好;如果10个有用,那么100个或许会更好。

问题在于,Agent 不是 GPU。

GPU 不会彼此说服,Agent 会。一个 GPU 不会看到另一个 GPU 犯错后,决定模仿它;但 Agent 会。

更重要的是,同一个模型的100个实例,并不等于100个真正独立的思考者。它们拥有相似的训练过程、推理模式、认知盲区、语言习惯,甚至相似的搜索行为。

因此,Agent 的数量,不等于独立智能的数量。

增加 Agent 可以创造更多计算量,却不一定能创造更多独立智能。如果所有 Agent 使用相似的信息,并犯下相似的错误,系统可能只是在反复复制同一种判断。

随着 Agent 系统规模扩大,这一区别会变得更加重要。

真正能够扩展的是并行度与多样性

判断一项任务是否应该使用多个 Agent 时,首先需要考虑的并不是任务有多困难,而是:

其中有多少工作能够真正同时进行?

假设需要分析中国电动汽车行业的未来。一个 Agent 可以研究比亚迪,一个研究特斯拉,一个研究电池技术,一个研究定价,还有一个研究监管政策。这些工作大多可以并行完成。

再考虑另一种任务:先与客户沟通,根据客户的反馈修改方案,取得客户确认,然后决定最终价格。

即使加入100个 Agent,也无法让最后一步更早发生。因为完成最后一步所需的信息,只有在前面的步骤完成后才会出现。

这与并行计算中的基本约束相同。有些问题是“宽”的,有些问题是“深”的。

研究型任务通常比较宽,因为大量信息收集工作可以独立进行。规划和执行型任务往往比较深,因为每一步都依赖上一步产生的状态。

Agent 还会引入另一项约束:协调成本。

增加 Agent 所带来的有效收益,并不等于由此增加的总计算量,而等于扣除协调成本之后,系统真正获得的有效并行计算量。

因此,复杂任务并不天然适合多 Agent 系统。一个困难但高度依赖顺序执行的问题,可能更适合交给一个强大的 Agent。相反,一项并不复杂、但需要检查50个独立信息源的任务,可能非常适合由 Agent Swarm 完成。

不过,并行度只是问题的一部分。更加重要的变量可能是:多样性。

假设让20个 Agent 分析同一家公司。如果这20个 Agent 使用相同的模型、相同的数据、相似的提示词、相同的搜索工具和相同的分析框架,那么这个系统的多样性可能远低于表面上看起来的程度。

它们很可能犯下高度相关的错误。

如果一个 Agent 存在某个认知盲区,把它复制20次,并不会产生20个相互补充的视角,往往只会产生同一个盲区的20个版本。

因此,相比于角色多样性(role diversity),认知来源的多样性(epistemic diversity)可能更加重要。

把4个 Agent 分别命名为“研究员”“批评者”“作者”和“审稿人”,并不会凭空创造出4种不同的思维。如果它们读取相同的上下文,看到相同的证据,这些角色可能只是在同一种认知模式上贴了4张不同的工牌。

真正的多样性来自让 Agent 通过不同的路径获得知识。

以投资研究为例,一个 Agent 可以只阅读财务报表和管理层评论;另一个只研究客户;一个负责分析竞争对手;一个负责构建尽可能有力的看空论证;再由一个独立 Agent 验证其中的事实性主张。只有完成这些工作之后,才让最后一个 Agent 综合全部证据。

此时,系统获得的不只是更多推理过程,还获得了彼此独立的信息渠道。

真正重要的问题不再只是:“系统中有多少个 Agent?”

而是:它们所犯错误的相关性有多高?

一个能力稍弱、但掌握真正不同信息的 Agent,可能比最强模型的另一个副本更有价值。

更多的“沟通”让系统变得更差

一种常见假设是,良好的团队协作需要更多沟通。

这种假设也被写入许多 Agent 系统:Agent 共享上下文,阅读彼此的输出,并通过讨论达成一致。

但沟通传递的不只是信息。

它也会传播偏见。

假设10个 Agent 正在评估一项主张。最初,6个支持观点 A,4个支持观点 B。支持 A 的一个 Agent 很早就提交了一份令人印象深刻的报告。这份分析清晰且极具说服力,但其中有一个重要数据点是错误的。

其他 Agent 读到报告后,开始调整自己的判断。支持比例从6比4变成8比2,随后变成9比1,最终所有 Agent 都达成了一致。

最终结果看起来非常可靠,因为10个 Agent 得出了相同的结论。

但这个系统可能并没有产生10份独立证据。它只是让一个错误通过网络传播了出去。

共识增加了,独立性却消失了。

因此,简单地把所有上下文共享给每个 Agent,可能并不是一种可靠的系统设计。

优秀的 Agent 架构可能需要人为设计的信息防火墙(Information Firewalls)。

审查者在检查结果之前,不一定需要看到作者的完整推理过程。看空分析师如果没有提前读过看多结论,可能更有价值。事实核查 Agent 可能只需要看到待核查的主张,而不需要知道主张附带的信心水平和叙事方式。

科学研究早已通过盲审采用了类似结构。这里的重点并不是信息越少越好,而是某些信息会污染独立判断。

同样的原则也适用于 Agent。

这意味着,Agent 工程可能会逐渐从提示词设计转向网络设计

哪些 Agent 可以相互交流?它们应该在什么时候交流?交换哪些信息?谁有权广播信息?哪些 Agent 必须保持独立?它们的结论应该在什么时候进行整合?

在一些系统中,最好的协调方式可能恰恰始于更少的协调。

先让 Agent 独立思考,随后交换信息,最后再进行综合。

当生成越来越便宜,验证就越来越有价值

现代模型几乎可以生成任何东西。

它们可以生成代码、文章、策略、创意、假设和计划。将候选方案从10个增加到100个,新增的边际成本已经很低,而且仍在继续下降。

这会形成一个新的瓶颈:

谁来判断哪个输出真正优秀?

如果100个 Agent 提供了100种策略,问题并没有消失,只是从“我有一个策略”变成了“不知道应该相信哪一种策略”。

由此来看,Agent Swarm 中最重要的组成部分可能不是 Agent,而是验证器(Verifier)。

编程 Agent 之所以发展得如此迅速,是因为软件拥有异常强大的验证机制。代码可以编译,可以运行,测试可以通过,也可以失败。环境能够提供即时反馈。

这形成了一个强大的循环:生成 → 测试 → 修复 → 再次测试。

但如果让一个 Agent 设计一套未来五年的公司战略,它的验证器在哪里?

利润可能要数年后才能衡量,客户偏好会发生变化,竞争对手会采取行动,市场也在不断波动。这里不存在一个即时且稳定的目标函数。

在这类领域中,多 Agent 系统很容易采用一种危险的捷径:

把共识当作验证。

5个 Agent 得出相同结论,会让人感到安心。但如果这5个 Agent 使用相似的模型和信息源,并且在讨论过程中相互影响,那么这种一致意见可能说明不了什么。

因此,Agent 系统的长期优势可能并不来自启动更多 Agent。

这项能力最终会成为一种商品。

真正的优势可能来自:验证基础设施。

软件可以使用测试;研究可以使用引文、信息源交叉验证和事实核查;数据分析可以直接执行查询;数学可以使用形式化证明检查;科学研究可以把 Agent 接入仿真系统和现实实验。

战略、预测、创意和管理等领域,则需要不同的验证机制。这些机制可能包括对抗性 Agent、历史回测、模拟、外部数据、人工审核或预测市场。

同时,也必须承认:可靠的自动化验证机制目前还不存在。

生成能力已经得到了充分扩展,验证能力的扩展却远远落后。

最有价值的系统,可能不是能够提供1,000个 Agent 的系统。

而是那个能够判断:

这1,000个 Agent 什么时候全都错了。

从 Agent 编排到协调工程

“Agent Orchestration(Agent 编排)”这个说法正逐渐显得过于狭窄。

“编排”让人想到的是一套工作流:Agent A 完成任务后交给 Agent B;路由器选择下一步;聚合器整合所有输出。

这当然是有价值的工程工作,但成熟的 Agent 系统需要解决一个范围大得多的问题:

谁知道什么?谁不应该知道什么?谁有权做出决定?谁可以挑战决定?错误如何被发现和隔离?算力应该如何分配?什么时候应该创建一个新 Agent?什么时候应该移除一个 Agent?什么时候共识是有价值的?什么时候应该保留异议?哪些信息应该进入集体记忆?

这些不只是工作流问题。它们属于组织设计。一个更加准确的说法或许是协调工程(Coordination Engineering)。

Agent 系统的前沿,可能会逐渐从构建更聪明的个体,转向设计更聪明的组织。

假设一名投资者拥有财务 Agent、行业 Agent、宏观经济 Agent、看多 Agent、看空 Agent、事实核查 Agent 和投资组合 Agent。

真正重要的能力,并不是为这7个 Agent 分别编写完美的提示词,而是决定它们应该如何组成一支研究团队。

内容创作也是如此。系统可以创建研究员、批评者、事实核查员和编辑。真正重要的是,它们是否使用了不同的证据,是否在恰当的阶段保持独立,以及谁对最终决定拥有明确的权力。

同样的逻辑最终也会延伸到公司。

如果财务 Agent、销售 Agent、法务 Agent 和产品 Agent 成为组织中长期存在的参与者,公司就必须明确 AI 的权限边界:

谁可以批准付款?谁可以修改价格?谁可以联系客户?谁拥有否决权?哪些操作必须得到人类批准?

到了这个阶段,讨论的已经远远不只是聊天机器人。

Agent Swarm 正在重新发明组织

如果把“Agent”替换成“人”,背后的问题其实非常古老:

如何让许多能力有限的个体,组成一个比任何个体都更加聪明的系统?

公司是一种答案,市场是另一种答案。科学体系、大学、政府和开源社区,也都是人类组织分布式智能的不同实验。

它们面对的都是类似的问题:信息应该如何流动?谁来做决定?如何利用专业分工?如何保留异议?如何在错误演变成系统性问题之前纠正它?

因此,未来最优秀的 Agent 架构可能不会只来自计算机科学。

分布式系统、网络科学、经济学、博弈论、组织理论、机制设计和社会学,都可能成为 Agent 工程的一部分。

AI 还改变了组织设计中最古老的一项约束:Agent 很便宜。

一家公司不可能为了一个3小时的研究任务招聘50名分析师,然后在任务完成后立即解雇他们。但 AI 系统可以这样做。

系统可以针对一项决策临时组建20支红队,可以为每一项重要结论安排一个对抗性审查者,也可以为一个具体问题建立高度专业化的组织,并在问题解决后立即将其解散。

这可能正是 Agent Swarm 最重要的意义:组织本身,变成了一种可以按需调用的计算资源。

过去,人们分配 CPU。

后来,人们分配 GPU。

下一层抽象,可能是:分配组织。

下一条 Scaling Law

如果 Agent 继续变得更加便宜,最终每个人都可能拥有几十个甚至数百个 Agent。

到了那时,拥有更多 Agent 就不再是一项有意义的优势。工具终将成为商品,真正的优势来自知道应该如何组织它们。

什么时候应该让一个 Agent 独立完成任务?什么时候应该并行执行?什么时候需要引入对抗性视角?什么时候应该隔离信息?什么时候应该让 Agent 进行讨论?什么时候必须由人类做出最终决定?哪些任务缺少可靠的验证器,因此不应该被高度自动化?

这很可能成为 AI 素养的一项核心能力。

优秀的管理者不会亲自完成每一项任务。他们知道如何拆解问题、组建团队、设计信息流并建立问责机制。

成熟的 AI 使用者最终也可能采取同样的方式。

最关键的能力,将是:设计智能架构。

因此,Agent Swarm 真正的 Scaling Law 并不是更大的模型,也不是更多的 Agent,而是:

更加独立的信息来源、更合理的信息流、更强大的验证机制,以及更优秀的组织设计。

Agent 数量只是最容易被看到的变量。

系统可以创建10,000个 Agent,但如果它们都在重复同一个错误,那么产生的只是同一个声音的10,000次回声。

系统也可以只创建4个 Agent:它们使用不同的信息源,保持认知独立,在正确的时间交换信息,并依赖一个强大的验证器。仅仅这4个 Agent,就可能构成一个强大的集体智能系统。

由此可见,AI 的下一条 Scaling Law 可能不在于构建一个更大的大脑。

而在于学习如何组织许多个并不完美的大脑。

多年来,AI 行业一直在问:如何构建一个更加聪明的模型?

Agent Swarm 迫使行业面对一个更加困难的问题:如何构建一个更加聪明的模型社会?

前者主要是一个机器学习问题。

后者则涉及组织、信息、激励、制度与权力。

大语言模型让创造智能个体变得廉价。Agent Swarm 则让行业再次面对一个非常古老的问题:为什么一些智能个体有时能够组成一个比任何成员都更加聪明的系统,而在另一些时候,它们却只会共同犯下一个更大的错误?

这才是 Agent Swarm 真正的 Scaling Law。