基于置信度预测的安全保证在线更新

诸如自动驾驶车辆与辅助机械臂等机器人正日益在动态环境中并与人紧密物理邻近地运行。在此类场景中，机器人可利用人体运动预测器预测其未来状态并规划安全且高效的轨迹。然而，任何模型都不可能完美——当观察到的人类行为偏离模型预测时，机器人可能规划出不安全动作。近期研究探索在人体模型中维持一个置信度参数以克服该挑战，其中预测的人类动作根据观测人类动作在预测模型下的似然被在线弱化。这引发了一个新的研究挑战，即如何在该置信度参数变化时在线计算未来人类状态？本工作中，我们提出一种基于 Hamilton-Jacobi（HJ）可达性的方法来克服此挑战。将置信度参数视为系统中的虚拟状态，我们计算了参数条件前向可达管（FRT），其给出作为置信度参数函数的未来人类状态。在线时，随着置信度参数变化，我们仅需查询相应的 FRT，并用其更新机器人规划。计算参数条件 FRT 对应于一个（离线）高维可达性问题，我们通过借助近期数据驱动可达性分析的进展予以求解。总体而言，我们的框架实现了人机交互场景中安全保证的在线维护与更新，即便人类预测模型不正确。我们在若干涉及最先进深度学习预测模型的安全关键自动驾驶场景中演示了该方法。