基于生成式深度学习的 Atari 智能体反事实状态
机器学习
2019-10-01 v1 人工智能
人机交互
机器学习
摘要
尽管深度强化学习智能体在许多领域取得了令人印象深刻的成果，其决策过程却难以向人类解释。为解决该问题，以往工作主要聚焦于解释在给定状态下为何选择某动作。另一种有用的解释类型是反事实，其处理“如果……会怎样？”的情景。在本工作中，我们引入反事实状态的概念，以帮助人类更好地理解 Atari 游戏图像中需要（最小程度）改变什么，才能使智能体选择不同动作。我们提出一种从生成式深度学习架构创建反事实状态的新方法。此外，我们在非机器学习专家的人类参与者上评估了反事实状态的有效性。我们的用户研究表明，所生成的反事实状态有助于非专家参与者更好地理解智能体的决策过程。
引用
@article{arxiv.1909.12969,
title = {Counterfactual States for Atari Agents via Generative Deep Learning},
author = {Matthew L. Olson and Lawrence Neal and Fuxin Li and Weng-Keen Wong},
journal= {arXiv preprint arXiv:1909.12969},
year = {2019}
}
备注
IJCAI XAI Workshop 2019