塔斯娱乐资讯网

为什么模型越多,共识越难? 从OpenAI到Anthropic,很多大模型公司都

为什么模型越多,共识越难?
从OpenAI到Anthropic,很多大模型公司都在鼓吹“多智能体集群”的概念。一个Agent解决不了复杂问题,那就派上一支“智能体大军”,通过分工协作来完成任务。听上去,人多力量大。
但NTT和哈佛大学的一项研究,给这个思路泼了盆冷水。太多Agent之间会互相干扰,甚至形成对立阵营,导致系统瘫痪。
研究者设计了一个“猜旗帜”游戏。每个Agent只能看到旗帜的一小部分,它们需要通过沟通达成共识,猜出完整的旗帜。结果发现:
第一、当Agent数量太少(比如少于16个),信息碎片不足,无法形成有效共识。
第二、但当数量过多时,问题出现了。Agent们会基于自己有限的“所见”,抱团形成不同的小团体。每个团体内部高度认同,但团体之间却相互排斥,最终谁也说服不了谁,无法达成最终目标。
这就是“信息茧房”和“群体极化”在AI世界的复现。每个Agent的“私有证据”和从其他Agent那里听来的“社会输入”产生了冲突。
过去,大家觉得解决AI能力不足的办法就是堆算力、堆模型。现在看来,在Agent层面,简单地“堆人头”不仅成本高昂,还可能适得其反。未来的关键,可能不在于Agent的数量,而在于“协作机制”的设计。如何建立有效的沟通协议、如何设定最终决策的仲裁者、如何避免小团体形成,这些组织行为学的问题,成了新的技术瓶颈。
技术最终还是回到了对组织和社会的研究上,AI的智能上限,或许取决于我们对“乌合之众”的理解有多深。