基于置信感知博弈论人类模型的人机交互安全保证
机器人学
2021-11-02 v2
摘要
人机交互安全方法的一个突出挑战是,在保持对人类行为变化的鲁棒性的同时降低其保守性。在本工作中,我们提出机器人在评估人机交互安全性时使用置信感知的博弈论人类行为模型。通过将人与机器人之间的影响以及人的理性视为未观测的潜在状态,我们简洁地推断出人类遵循该博弈论交互模型的程度。我们利用此模型在安全验证期间限制可行人类控制的集合,使机器人能够在线自信地调节其安全监视器的保守程度。在模拟人机场景中的评估与消融研究证明,为安全监视器赋予置信感知博弈论模型可实现安全且高效的人机交互。此外,使用真实交通数据的评估表明,在真实人类驾驶场景中,我们的安全监视器比传统安全方法更不保守。
引用
@article{arxiv.2109.14700,
title = {Safety Assurances for Human-Robot Interaction via Confidence-aware Game-theoretic Human Models},
author = {Ran Tian and Liting Sun and Andrea Bajcsy and Masayoshi Tomizuka and Anca D. Dragan},
journal= {arXiv preprint arXiv:2109.14700},
year = {2021}
}