通过用户反馈实现机器人路径规划的个性化解释

先前的研究发现，解释机器人的决策与动作有助于提升系统透明度、改善用户理解，并实现高效的人机协作。本文提出一个通过用户反馈生成机器人路径规划个性化解释的系统。我们考虑机器人在建模为马尔可夫决策过程（MDP）的环境中导航，并开发了一种算法，基于用户关于四个要素（即目标、局部性、特异性和语料库）的偏好，自动生成最优 MDP 策略的个性化解释。此外，我们设计的系统可通过回答用户关于所生成解释的进一步问题来与用户交互。用户可选择更新其偏好以查看不同解释。该系统能够通过用户交互检测并解决任何偏好冲突。一项在线用户研究表明，所生成的个性化解释提升了用户满意度，且大多数用户喜欢该系统的问答与冲突检测/解决能力。