深度强化学习在 Atari 游戏中的视觉合理化解释
机器学习
2019-02-05 v1 机器学习
摘要
由于深度学习在高维问题中表现良好的能力,深度强化学习智能体在 Atari 2600 游戏等具有挑战性的任务中表现优异。然而,清晰解释智能体为何采取某一动作,可能与决策本身同样重要。与其他深度学习模型一样,深度强化学习模型在决策过程中往往是不透明的。在本工作中,我们提出通过可视化智能体决策所依据的证据,使深度强化学习更具透明性。我们强调为观察到的动作提供合理性说明的重要性,该方法可应用于黑盒决策智能体。
引用
@article{arxiv.1902.00566,
title = {Visual Rationalizations in Deep Reinforcement Learning for Atari Games},
author = {Laurens Weitkamp and Elise van der Pol and Zeynep Akata},
journal= {arXiv preprint arXiv:1902.00566},
year = {2019}
}
备注
presented as oral talk at BNAIC 2018