通过帕累托中介在保持自主性同时改善社会福利
计算机科学与博弈论
2021-06-09 v1 人工智能
机器学习
多智能体系统
摘要
机器学习算法常代表具有多样且有时冲突利益的智能体做决策。在智能体可选择自行行动或将行动委托给中央中介的领域，一个开放问题是中介应如何在代表委托智能体行动。现有主要方法利用委托智能体惩罚非委托智能体，试图让所有智能体委托，这往往对各方都代价高昂。我们引入帕累托中介（Pareto Mediator），旨在改善委托智能体的结果而不使其中任何一个变差。我们在随机正规形式博弈、餐厅推荐博弈和强化学习序贯社会困境中的实验表明，帕累托中介大幅提升了社会福利。此外，即使帕累托中介基于错误的智能体效用模型，由于自愿中介所保留的个体自主性，性能也会优雅退化至干预前水平。
引用
@article{arxiv.2106.03927,
title = {Improving Social Welfare While Preserving Autonomy via a Pareto Mediator},
author = {Stephen McAleer and John Lanier and Michael Dennis and Pierre Baldi and Roy Fox},
journal= {arXiv preprint arXiv:2106.03927},
year = {2021}
}