人-机器人协作中信任感知的决策制定：模型学习与规划
机器人学
2018-11-26 v3 人工智能
摘要
对自主性的信任对于有效的人-机器人协作以及用户对机器人助手等自主系统的采纳至关重要。本文引入一种将信任整合进机器人决策制定的计算模型。具体而言，我们从数据中学习以人类信任为潜变量的部分可观测马尔可夫决策过程(partially observable Markov decision process, POMDP)。该信任-POMDP 模型为机器人提供了原则性方法以(i)通过交互推断人类队友的信任，(ii)推理自身动作对人类信任的影响，以及(iii)选择长期最大化团队性能的动作。我们通过仿真中桌面清理任务（201 名参与者）与真实机器人（20 名参与者）上的人体实验验证了模型。在我们的研究中，机器人通过先操作低风险物体来建立人类信任。有趣的是，机器人有时故意失败以调节人类信任并取得最佳团队性能。这些结果表明信任-POMDP 校准信任以改善长期人-机器人团队性能。进一步，它们强调仅最大化信任并不总导致最佳性能。
引用
@article{arxiv.1801.04099,
title = {Trust-Aware Decision Making for Human-Robot Collaboration: Model Learning and Planning},
author = {Min Chen and Stefanos Nikolaidis and Harold Soh and David Hsu and Siddhartha Srinivasa},
journal= {arXiv preprint arXiv:1801.04099},
year = {2018}
}
备注
Chen and Nikolaidis contributed equally to the work. Appeared In Proceedings of 2018 ACM/IEEE International Conference on Human-Robot Interaction, Chicago, IL, USA, (HRI 2018)