通过Atari智能体中的注意力实现免费显著性
机器学习
2019-11-01 v2 人工智能
计算机视觉与模式识别
摘要
我们提出一种可视化深度神经网络模型显著性图的新方法，并将其应用于在Atari环境中训练的深度强化学习智能体。我们的方法在已有基线（Mnih et al., 2015）的特征提取器上添加一个称为FLS（Free Lunch Saliency，免费午餐显著性）的注意力模块。这一添加产生了一个可训练的模型，能够生成显著性图，即智能体当前决策中输入不同部分重要性的可视化。我们通过实验表明，带FLS模块的网络表现出与基线相似的性能（即它是“免费”的，无性能代价），并且可用作强化学习智能体的直接替换。我们还设计了另一种特征提取器，其得分略低但提供更高保真度的可视化。除所得分数外，我们报告了在Atari-HEAD人类游戏数据集上评估的显著性指标。
引用
@article{arxiv.1908.02511,
title = {Free-Lunch Saliency via Attention in Atari Agents},
author = {Dmitry Nikulin and Anastasia Ianina and Vladimir Aliev and Sergey Nikolenko},
journal= {arXiv preprint arXiv:1908.02511},
year = {2019}
}
备注
2019 ICCV Workshop on Interpreting and Explaining Visual Artificial Intelligence Models. 15 pages, 14 figures, 5 tables