用Shapley值解释强化学习
机器学习
2023-06-12 v1
摘要
要使强化学习系统被广泛采用，其用户必须理解并信任它们。我们提出了一种利用Shapley值解释强化学习的理论分析，遵循博弈论中用于识别合作博弈结果中个体参与者贡献的原则性方法。我们称这一通用框架为用于解释强化学习的Shapley值(SVERL)。我们的分析揭示了早期在强化学习中运用Shapley值的局限性。随后我们开发了一种利用Shapley值解释智能体性能的方法。在多个领域中，SVERL产生了与人类直觉相符并与之互补的有意义解释。
引用
@article{arxiv.2306.05810,
title = {Explaining Reinforcement Learning with Shapley Values},
author = {Daniel Beechey and Thomas M. S. Smith and Özgür Şimşek},
journal= {arXiv preprint arXiv:2306.05810},
year = {2023}
}
备注
12 pages, 9 figures. Accepted at ICML 2023