基于深度强化学习控制的机器人杠杆操作中因果与边际Shapley值之比较
机器人学
2021-11-05 v1 机器学习
摘要
我们研究了在生成解释时，引入关于机器人系统因果关系的领域知识所产生的影响。为此，我们在一个通过深度强化学习训练以控制机器人操纵器操作杠杆的深度神经网络上，比较了可解释人工智能中的两种方法：流行的 KernelSHAP 和近期的因果 SHAP。KernelSHAP 的一个主要缺点是其解释仅表示特征对模型输出的直接效应，而未考虑一个特征通过影响其他特征而对输出产生的间接效应。因果 SHAP 使用偏因果序来改变 KernelSHAP 的采样过程，以纳入这些间接效应。该偏因果序定义了特征之间的因果关系，我们利用杠杆控制任务的领域知识对其进行了指定。我们表明，使解释方法能够考虑间接效应并结合部分领域知识，可以产生更符合人类直觉的解释。这对于存在大量因果关系且所需领域知识通常容易获取的真实世界机器人任务尤为有利。
引用
@article{arxiv.2111.02936,
title = {Causal versus Marginal Shapley Values for Robotic Lever Manipulation Controlled using Deep Reinforcement Learning},
author = {Sindre Benjamin Remman and Inga Strümke and Anastasios M. Lekkas},
journal= {arXiv preprint arXiv:2111.02936},
year = {2021}
}
备注
Submitted to the American Control Conference 2022