反事实解释与因果推断在机器人控制鲁棒性中的应用

我们提出一种用于训练“我们能否修改事件A以导致B而非C？”形式反事实条件生成模型的架构，其动机来自机器人控制应用。使用“对抗训练”范式，基于图像的深度神经网络模型被训练以对原始图像产生微小且真实的修改，从而导致用户定义的效果。这些修改可用于基于图像的鲁棒控制的设计过程——通过输入空间中的修改而非自适应来确定控制器返回工作状态的能力。与传统的控制设计方法（鲁棒性以抑制噪声的能力量化）不同，我们探索可能导致某需求被违反的反事实空间，从而提出一种在某些机器人应用中可能更具表达力的替代模型。因此，我们提出反事实的生成作为黑盒模型解释及自主机器人控制中潜在运动路径设想的方法。首先，我们在使用知名MNIST和CelebFaces Attributes数据集的一组分类任务中展示该方法。然后，针对多维回归，我们在物理机器人的到达任务和数字孪生仿真中的机器人导航任务中展示我们的方法。