通过帧解释模仿学习
机器学习
2023-01-04 v1 计算机视觉与模式识别
摘要
作为实现自动化系统的主流方法之一，模仿学习（IL）在广泛领域中展现出良好的性能。然而，尽管策略性能有了显著提升，关于 IL 模型可解释性的相应研究仍然有限。受近期可解释人工智能方法的启发，我们提出了一种名为 R2RISE 的模型无关 IL 模型解释框架。R2RISE 旨在针对演示中的帧解释整体策略性能。它从随机掩码演示中迭代地重新训练黑盒 IL 模型，并使用常规评估结果（环境回报）作为系数来构建重要性图。我们还进行了实验，以研究关于帧重要性平等性、重要性图有效性以及不同 IL 模型重要性图之间联系的三个主要问题。结果表明，R2RISE 成功区分了演示中的重要帧。
引用
@article{arxiv.2301.01088,
title = {Explaining Imitation Learning through Frames},
author = {Boyuan Zheng and Jianlong Zhou and Chunjie Liu and Yiqiao Li and Fang Chen},
journal= {arXiv preprint arXiv:2301.01088},
year = {2023}
}