基于目标识别的XRL解释比较性用户评估
人工智能
2025-10-21 v1
摘要
解释性强化学习（XRL）算法的核心应用之一是调试；然而，针对这些算法相对性能的有限比较评估尚未充分进行。我们提出了一种新型评估方法，用于测试用户是否能够从其决策-making解释中识别代理人的目标。利用Atari的 Ms. Pacman 环境和四种XRL算法，我们发现只有一种算法在所测试的目标上达到了超过随机水平的准确度，而用户通常对其选择过于自信。进一步地，我们发现用户自报告的识别和理解难度与其准确度之间不存在相关性。
引用
@article{arxiv.2510.16956,
title = {A Comparative User Evaluation of XRL Explanations using Goal Identification},
author = {Mark Towers and Yali Du and Christopher Freeman and Timothy J. Norman},
journal= {arXiv preprint arXiv:2510.16956},
year = {2025}
}
备注
Accepted to ECAI 2025 Workshop on Evaluating Explainable AI and Complex Decision-Making, 8 Pages