基于回退安全 MPC 的运行时监视器闭环框架
系统与控制
2023-09-19 v2 机器人学
系统与控制
摘要
当我们依赖深度学习的模型进行机器人感知时，必须认识到这些模型在异于训练数据的输入上可能表现不可靠，从而危及闭环系统的安全。这引发了基本问题：我们如何评估感知系统的置信度，以及在外部环境变化导致感知模型性能下降时，我们能在多大程度上采取保全安全的动作。因此，我们提出一个框架，用于认证部署在新环境中的感知使能系统的安全性。为此，我们利用鲁棒模型预测控制（MPC）基于感知估计控制系统，同时保持不依赖感知系统的保全安全回退计划的可行性。此外，我们使用近期提出的保角预测技术校准运行时监视器，以可认证地检测感知系统退化超出 MPC 控制器容忍度的时刻，从而实现端到端的安全保障。我们表明，该控制框架与校准技术使我们能在照片级真实感飞机滑行模拟器上部署于新环境时，以比重新训练感知网络所需少几个数量级的样本认证系统安全。此外，我们在四旋翼模拟示例中展示了 MPC 的保全安全行为。我们在项目页面开源了模拟平台并提供了结果视频：https://tinyurl.com/fallback-safe-mpc。
引用
@article{arxiv.2309.08603,
title = {Closing the Loop on Runtime Monitors with Fallback-Safe MPC},
author = {Rohan Sinha and Edward Schmerling and Marco Pavone},
journal= {arXiv preprint arXiv:2309.08603},
year = {2023}
}
备注
Accepted to the 2023 IEEE Conference on Decision and Control