基于 Myerson 值更高效计算个体属性与策略贡献以对协作多智能体系统事后解释
人工智能
2022-12-21 v1 机器学习
多智能体系统
摘要
在团队中对智能体全局重要性的定量评估对策略师、决策者和体育教练而言价值连城。然而，获取该信息并非易事，因为在协作任务中难以将个体表现与整个团队的表现分离。此外，智能体的角色与其个人属性之间的关系并非总是清晰。本文构思了 Shapley 分析的一种应用，用于研究智能体策略与属性的贡献，并将二者置于同等地位。由于计算复杂度为 NP-hard 且随可转移效用联盟博弈中参与者数量指数级增长，我们借助关于博弈规则的先验知识来约束参与者在图上的关系。因此我们提出一种确定多智能体系统中智能体策略与特征层次知识图的方法。假设系统的模拟器可用，该图结构允许利用动态规划更快地评估重要性。我们在包含硬编码策略与通过深度强化学习所得策略的概念验证环境中测试了所提方法。所提范式比直接计算 Shapley 值的计算需求更低，并不仅深入揭示了智能体在团队中的重要性，也揭示了发挥其策略最佳性能所需的属性。
引用
@article{arxiv.2212.03041,
title = {Towards a more efficient computation of individual attribute and policy contribution for post-hoc explanation of cooperative multi-agent systems using Myerson values},
author = {Giorgio Angelotti and Natalia Díaz-Rodríguez},
journal= {arXiv preprint arXiv:2212.03041},
year = {2022}
}
备注
Accepted for publication in Elsevier's Knowledge-Based Systems