中文

智能体特定效应:多智能体马尔可夫决策过程中的因果效应传播分析

人工智能 2024-06-11 v3

摘要

建立行动与结果之间的因果关系是可问责的多智能体决策的基础。然而,解释和量化智能体对这些关系的贡献带来了重大挑战。这些挑战在多智能体序贯决策背景下尤为突出,其中智能体行动对结果的因果效应取决于其他智能体如何响应该行动。在本文中,我们的目标在于提出一种系统方法,将智能体行动的因果效应归因于其对其他智能体施加的影响。聚焦于多智能体马尔可夫决策过程,我们引入智能体特定效应(ASE),一种衡量智能体行动通过其他智能体传播而对结果产生效应的新型因果量。随后我们转向 ASE 的反事实对应量(cf-ASE),给出识别 cf-ASE 的一组充分条件,并提出一种实用的基于采样的估计算法。最后,我们通过一个基于仿真的测试平台(包括脓毒症管理环境)对 cf-ASE 的效用进行实验评估。

关键词

引用

@article{arxiv.2310.11334,
  title  = {Agent-Specific Effects: A Causal Effect Propagation Analysis in Multi-Agent MDPs},
  author = {Stelios Triantafyllou and Aleksa Sukovic and Debmalya Mandal and Goran Radanovic},
  journal= {arXiv preprint arXiv:2310.11334},
  year   = {2024}
}

备注

ICML 2024