使用线性模型树与用户自适应可视化解释深度强化学习靠泊智能体
机器人学
2022-03-02 v1 机器学习
摘要
深度神经网络（DNN）在海洋机器人领域可能很有用，但其黑箱特性限制了其实用价值。可解释人工智能方法试图理解这类黑箱如何做出决策。在这项工作中，使用线性模型树（LMT）来逼近在仿真环境中控制自主水面船舶（ASV）的 DNN，然后与 DNN 并行运行，以特征归因的形式实时给出解释。一个模型能否被理解，不仅取决于解释本身，还取决于解释如何呈现并适应其接收者。不同的最终用户可能需要不同类型的解释以及不同的表示形式。这项工作的主要贡献是：（1）通过在树的划分中引入特征排序，显著提高了构建 LMT 的贪婪方法的准确性和构建速度；（2）概述了作为智能体的两种不同最终用户及解释接收者——船员/操作员和开发者的特征；（3）基于开发者作为系统最终用户时的不同特征，提出了一种靠泊智能体、环境以及 LMT 给出的特征归因的可视化方案，并为船员或操作员作为最终用户时提出了另一种可视化方案。
引用
@article{arxiv.2203.00368,
title = {Explaining a Deep Reinforcement Learning Docking Agent Using Linear Model Trees with User Adapted Visualization},
author = {Vilde B. Gjærum and Inga Strümke and Ole Andreas Alsos and Anastasios M. Lekkas},
journal= {arXiv preprint arXiv:2203.00368},
year = {2022}
}