面向序贯人机交互中可信机器人构建的奖励塑造
机器人学
2023-08-03 v1
摘要
信任感知的人机交互（HRI）已受到越来越多的研究关注，因为信任已被证明是有效HRI的关键因素。信任感知HRI研究发现了一种困境——最大化任务奖励常导致人类信任下降，而最大化人类信任又会损害任务性能。本工作中，我们通过将HRI过程建模为双人马尔可夫博弈并利用奖励塑造技术来提升人类信任同时限制性能损失，从而解决该困境。具体而言，我们证明当塑造奖励为基于势函数时，性能损失可由马尔可夫博弈终态处的势函数界定。我们将所提框架应用于基于经验的信任模型，得到一个可高效求解并部署于实际应用的线性规划。我们在一个人类-机器人团队执行搜救任务的仿真场景中评估了所提框架。结果表明，所提框架成功修改了机器人最优策略，使其能以最小任务性能代价提升人类信任。
引用
@article{arxiv.2308.00945,
title = {Reward Shaping for Building Trustworthy Robots in Sequential Human-Robot Interaction},
author = {Yaohui Guo and X. Jessie Yang and Cong Shi},
journal= {arXiv preprint arXiv:2308.00945},
year = {2023}
}
备注
In Proceedings of 2023 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS)