行为树决策的时序反事实解释

可解释性，特别是机器人解释其为何做出某个决策或以某种方式行为的能力，是帮助用户理解与之交互和共存的机器人的关键工具。行为树是控制机器人决策的流行框架，因此一个自然的问题是，由行为树驱动的系统是否能够回答“为什么”的问题。虽然行为树驱动机器人的可解释性此前已受到一些关注，但现有方法均无法生成因果性的反事实解释，以详细说明机器人决策和行为的原因。因此，在本工作中，我们引入了一种新颖的方法，该方法能够自动生成反事实解释，以回应对比性的“为什么”问题。我们的方法通过首先从行为树的结构以及关于状态和单个行为树节点的领域知识中自动构建因果模型来实现这一点。然后，对生成的因果模型进行查询和搜索，以找到一组多样化的反事实解释。我们证明，与以往的方法不同，我们的方法能够实时正确地解释各种行为树结构和状态下的行为，而以往的方法要么无法用因果解释回答对比性问题，要么不能保证提供一致且准确的解释。通过能够回答广泛的因果查询，我们的方法朝着更透明、更可理解，并最终更安全、更可信的机器人系统迈出了一步。