通过关键状态建立恰当信任
机器人学
2018-10-19 v1
摘要
为了有效地与机器人交互或监督机器人，人类需要对其能力及行为方式拥有准确的心智模型。习得的神经网络策略使这一点尤其具有挑战性。我们提出了一种帮助终端用户建立此类策略心智模型的方法。我们的关键观察是，对于大多数任务，策略的本质体现在少数关键状态中：即采取特定动作极为重要的状态。我们的用户研究表明，如果机器人向人类展示其对任务关键状态的理解，那么人类可以更明智地决定是否部署该策略，并且如果她确实部署了，也能知道在执行时何时需要从机器人接管控制。
引用
@article{arxiv.1810.08174,
title = {Establishing Appropriate Trust via Critical States},
author = {Sandy H. Huang and Kush Bhatia and Pieter Abbeel and Anca D. Dragan},
journal= {arXiv preprint arXiv:1810.08174},
year = {2018}
}
备注
IROS 2018