向普通大众解释强化学习：一项实证研究
人机交互
2019-06-20 v2 人工智能
摘要
我们提出了一项用户研究，以调查解释对非专家理解强化学习（RL）智能体的影响。我们研究了一种常见的 RL 可视化方法——显著性图（即注意力焦点），以及一种较新的解释类型——奖励分解柱状图（对未来奖励类型的预测）。我们设计了一项包含124名参与者、四种处理的实验，以比较参与者在简单即时战略（RTS）游戏中对 RL 智能体的心智模型。结果表明，显著性图和奖励柱状图的结合是实现心智模型得分相对于对照组具有统计学显著提升所必需的。此外，我们对数据的定性分析揭示了若干值得进一步研究的效果。
引用
@article{arxiv.1903.09708,
title = {Explaining Reinforcement Learning to Mere Mortals: An Empirical Study},
author = {Andrew Anderson and Jonathan Dodge and Amrita Sadarangani and Zoe Juozapaitis and Evan Newman and Jed Irvine and Souti Chattopadhyay and Alan Fern and Margaret Burnett},
journal= {arXiv preprint arXiv:1903.09708},
year = {2019}
}
备注
7 pages