解释深度策略网络在机器人操作中的决策

深度策略网络使机器人能够以端到端的方式学习行为来解决各种现实世界的复杂任务。然而，它们缺乏透明度以提供动作的原因。因此，这种黑盒模型经常导致在实际部署机器人时可靠性低和破坏性动作。为增强其透明度，重要的是通过考虑每个输入特征对确定给定动作的贡献程度来解释机器人行为。在本文中，我们通过输入归因方法对深度策略模型进行显式分析，以解释每个输入特征如何影响机器人策略模型的决策及其影响程度。为此，我们提出了两种将输入归因方法应用于机器人策略网络的方法：（1）我们测量每个关节力矩的重要性因子，以反映电机力矩对末端执行器运动的影响；（2）我们修改了一种相关性传播方法，以适当处理深度策略网络中的负输入和负输出。据我们所知，这是首篇在线识别深度策略网络中多模态传感器输入的输入归因动态变化的报告，用于机器人操作。