可视化与理解 Atari 智能体
人工智能
2018-09-12 v5
摘要
尽管深度强化学习（deep RL）智能体在最大化奖励方面十分有效，但它们使用何种策略做到这一点通常并不清楚。在本文中，我们通过使用 Atari 2600 环境的案例研究，朝着解释深度 RL 智能体迈出一步。具体而言，我们专注于使用显著性图来理解智能体如何学习并执行策略。我们引入了一种生成有用显著性图的方法，并用它来展示 1）强智能体关注什么，2）智能体是否出于正确或错误的原因做出决策，以及 3）智能体在学习过程中如何演化。我们还在非专家人类受试者上测试了我们的方法，发现它提升了他们推理这些智能体的能力。总体而言，我们的结果表明，显著性信息能够为 RL 智能体的决策和学习行为提供重要见解。
引用
@article{arxiv.1711.00138,
title = {Visualizing and Understanding Atari Agents},
author = {Sam Greydanus and Anurag Koul and Jonathan Dodge and Alan Fern},
journal= {arXiv preprint arXiv:1711.00138},
year = {2018}
}
备注
ICML 2018 conference paper. Code: https://github.com/greydanus/visualize_atari Blog: https://greydanus.github.io/2017/11/01/visualize-atari/