超越 A 箭头定理：公平性作为多智能体协作的涌现属性
计算与语言
2026-04-16 v1 人工智能
计算机科学与博弈论
多智能体系统
摘要
语言模型中的公平性通常作为单个集中优化模型的属性进行研究。随着大型语言模型日益具备智能体性，我们提出公平性通过交互和交换而涌现。我们通过一个包含两位智能体在三轮结构辩论中进行协商的受控医院分诊框架来研究这一问题。其中一个智能体通过检索增强生成 (RAG) 被对齐到特定伦理框架，而另一个智能体则要么不可对齐，要么被针对性提示偏好人口统计学群体而非临床需求。我们发现，对齐系统atically 塑造了谈判策略和分配模式，单个智能体的分配在孤立情况下均不够伦理，然而其联合最终分配可满足 neither 智能体单独达到的公平性标准。对齐智能体通过争议而非覆盖来部分缓解偏见，充当纠正性补丁，为被边缘化群体恢复访问权限而不完全转换偏见的对等方。我们进一步观察到，即使是明确对齐的智能体也对某些框架表现出内在偏好，这与已知的 LLM 左倾倾向相符。我们将这些限制与 A 箭头定理联系起来：没有聚合机制能同时满足集体理性的所有愿望，多智能体协商通过而非解决这一限制。我们的结果将公平性重新定位为去中心化智能体相互作用的涌现、程序属性，将系统而非单个智能体作为合理的评估单元。
引用
@article{arxiv.2604.13705,
title = {Beyond Arrow's Impossibility: Fairness as an Emergent Property of Multi-Agent Collaboration},
author = {Sayan Kumar Chaki and Antoine Gourru and Julien Velcin},
journal= {arXiv preprint arXiv:2604.13705},
year = {2026}
}