不一致引发鲁棒性：探究大语言模型多智能体系统中的自修复能力
计算与语言
2025-10-03 v2
摘要
近期大语言模型（LLM）的快速发展，将其从 sophisticated 的文本生成器升级为具备合作能力和工具使用能力的自主智能体，能够在多智能体系统（MAS）中实现协作。然而，如何影响不一致对集体决策的塑造，仍不明确。本文我们重新审视不一致的作用，认为一般且部分重叠的不一致可防止过早的共识，并扩大探索解空间的范围，而关于任务关键步骤的不一致则取决于解路径拓扑结构，可能导致合作受阻。我们研究了两种具有不同路径结构的协作场景：协作推理（CounterFact, MQuAKE-cf），通常遵循单一证据链；协作编程（HumanEval, GAIA）则常采用多种有效实现。不一致被实现为智能体之间的一般性异质性，以及注入上下文或参数中的任务关键性反事实知识编辑。实验结果表明，一般性不一致通过鼓励互补探索 consistently 显著提升成功率。相比之下，任务关键性不一致在单路径推理中显著降低成功率，但在编程任务中影响有限，因为智能体可以选择替代方案。跟踪分析显示，MAS在编程中频繁绕过被编辑的事实，但在推理中很少如此，这揭示了一种依赖于解路径而非规模的新兴自修复能力。我们的代码已公开于 https://github.com/wbw625/MultiAgentRobustness。
引用
@article{arxiv.2502.15153,
title = {When Disagreements Elicit Robustness: Investigating Self-Repair Capabilities under LLM Multi-Agent Disagreements},
author = {Tianjie Ju and Bowen Wang and Hao Fei and Mong-Li Lee and Wynne Hsu and Yun Li and Qianren Wang and Pengzhou Cheng and Zongru Wu and Haodong Zhao and Zhuosheng Zhang and Gongshen Liu},
journal= {arXiv preprint arXiv:2502.15153},
year = {2025}
}
备注
Working in progress