声誉作为 LLM 驱动的多主体系统中合作崩溃的解决方案
人工智能
2026-01-30 v3 多智能体系统
摘要
合作一直是人类社会和人工智能系统中的基本主题。然而，近期研究表明，在由大语言模型（LLMs）驱动的多主体系统（MASs）中，合作的崩溃可能出现。为解决这一挑战，我们探索将声誉系统作为补救方案。我们提出了 RepuNet，一个动态的双层声誉框架，既建模代理层声誉动态，又建模系统层网络演化。具体而言，基于直接互动和间接闲言，代理人为自己及其同行形成声誉，并决定是否与其他代理人连接或断开连接以进行未来互动。通过三个不同的场景，我们展示 RepuNet 有效避免了合作崩溃，促进并维持了 LLM 驱动的 MASs 中的合作。此外，我们发现声誉系统可在 LLM 驱动的 MASs 中引发丰富的涌现行为，如合作集群的形成、剥削者的社交孤立，以及偏好分享积极闲言而非消极闲言。我们的项目 GitHub 仓库可通过以下链接访问：https://github.com/RGB-0000FF/RepuNet。
引用
@article{arxiv.2505.05029,
title = {Reputation as a Solution to Cooperation Collapse in LLM-based MASs},
author = {Siyue Ren and Wanli Fu and Xinkun Zou and Chen Shen and Yi Cai and Chen Chu and Zhen Wang and Shuyue Hu},
journal= {arXiv preprint arXiv:2505.05029},
year = {2026}
}
备注
Published as a conference paper at AAMAS 2026