中文

当身份超越激励:多智能体 LLM 系统中表征选择作为治理决策

多智能体系统 2026-05-15 v5

摘要

基于大语言模型的多智能体系统越来越多地部署在战略政策和治理环境中,在这些环境中,代表具有冲突利益的相关方的智能体必须在共享约束下进行协调。这些系统通常为智能体分配基于角色的角色设定,描述其动机和目标。具有基于角色身份的智能体在战略决策中是遵循显式的收益还是其被分配的角色,这一点尚未得到检验。在此,我们展示了在四智能体策略博弈中,分配基于角色的角色设定会抑制与收益一致的行为,即使在智能体拥有完整收益信息的情况下,也能将均衡达成率改变多达 90 个百分点。我们测试了一个 2x2 因子设计(角色设定存在与否 x 收益可见性),跨四个模型(Qwen-7B、Qwen-32B、Llama-8B、Mistral-7B)和 53 个具有两种均衡的环境政策场景:个体收益占优的“公地悲剧”和集体收益占优的“绿色转型”。当存在角色设定时,所有模型在“悲剧”占优的场景中都达到了接近零的“悲剧”均衡,尽管拥有完整的收益信息,并且 100% 的均衡对应于“绿色转型”。仅通过移除角色设定,没有模型达到“悲剧”均衡;只有当移除角色设定并显式给出收益时,只有 Qwen 模型达到了 65-90% 的“悲剧”均衡率。出现了三种不同的行为模式:Qwen 根据框架条件改变均衡选择,Mistral 增加了响应方差但未达到“悲剧”均衡,而 Llama 在所有条件下几乎保持不变。多智能体 LLM 系统中的表征选择是治理决策:角色设定决定了模拟产生哪种均衡,这与底层的激励结构无关。

关键词

引用

@article{arxiv.2601.10102,
  title  = {When Identity Overrides Incentives: Representational Choices as Governance Decisions in Multi-Agent LLM Systems},
  author = {Viswonathan Manoranjan and Snehalkumar `Neil' S. Gaikwad},
  journal= {arXiv preprint arXiv:2601.10102},
  year   = {2026}
}

备注

Accepted to ACM FAccT 2026