从 Byzantine 容错容错角度重新思考多智能体系统的可靠性
多智能体系统
2025-12-17 v2 人工智能
计算与语言
摘要
确保智能体架构的可靠性以及在发生故障时有效识别有问题的智能体，是多智能体系统 (MAS) 中的关键挑战。大型语言模型 (LLM) 的进步已使 LLM-based 智能体成为 MAS 的主要分支，使其在复杂问题解决和世界建模方面取得了重大突破。然而，这一变迁的可靠性影响因素鲜为人知。即，是否可以通过替换传统智能体来有效增强 MAS 的可靠性。在本工作中，我们从 Byzantine 容错的角度来检验和量化 LLM-based 智能体的可靠性。我们观察到 LLM-based 智能体在处理错误信息流时表现出更强的怀疑态度，这一特征使其在不同的拓扑结构下均能超越传统智能体。鼓励 pilot 实验的结果，我们设计了 CP-WBFT，即一种基于置信探针的加权 Byzantine 容错共识机制，以增强不同拓扑结构下 MAS 的稳定性。该方法利用 LLM 的内在反思和判别能力，通过采用基于探针的加权信息流传输方法来提高 LLM-based 智能体的可靠性。大量实验表明，CP-WBFT 在极端 Byzantine 条件下 (85.7% 故障率) 的各种网络拓扑结构下均表现出优异的性能。值得注意的是，我们的方法在各种拓扑结构上实现了卓越的准确率，并在数学推理和安全评估任务中保持强大的可靠性。
引用
@article{arxiv.2511.10400,
title = {Rethinking the Reliability of Multi-agent System: A Perspective from Byzantine Fault Tolerance},
author = {Lifan Zheng and Jiawei Chen and Qinghong Yin and Jingyuan Zhang and Xinyi Zeng and Yu Tian},
journal= {arXiv preprint arXiv:2511.10400},
year = {2025}
}