面向权衡对比解释的多目标 MDP 规划
人机交互
2020-08-04 v2 人工智能
摘要
随着自动化决策与规划在人们生活的诸多方面日益应用,终端用户对自动化智能体的信任十分重要。在规划的实际应用中,常涉及多个优化目标。因此,规划智能体的决策可能包含竞争目标间复杂的权衡。终端用户很难理解智能体为何基于其目标值决定某一特定规划解。结果,用户可能不知智能体是否做出正确决策,并可能缺乏信任。本工作中,我们贡献了一种基于对比解释的方法,使多目标 MDP 规划智能体能以领域级概念传达其权衡原理的方式来解释其决策。我们开展了一项人类受试者实验,在移动机器人导航领域评估了我们的解释方法的有效性。结果表明,我们的方法显著提升了用户对该规划智能体权衡原理的理解及其对理解的信心。
引用
@article{arxiv.2004.12960,
title = {Tradeoff-Focused Contrastive Explanation for MDP Planning},
author = {Roykrong Sukkerd and Reid Simmons and David Garlan},
journal= {arXiv preprint arXiv:2004.12960},
year = {2020}
}