基于视觉的控制器系统级异常检测与缓解

自动驾驶汽车和无人机等自主系统近年来利用视觉输入和机器学习进行决策与控制，取得了显著进展。尽管性能令人印象深刻，这些基于视觉的控制器在面临新颖或分布外输入时可能做出错误预测。此类错误可级联至灾难性系统故障并危及系统安全。在这项工作中，我们引入了一种运行时异常监视器，用于检测并缓解此类闭环、系统级故障。具体而言，我们利用基于可达性的框架离线对基于视觉的控制器进行压力测试并挖掘其系统级故障。随后该数据被用于训练一个分类器，在线用于标记可能导致系统崩溃的输入。该异常检测器凸显了超越单个模块并关乎整体系统安全的问题。我们还设计了一个 fallback 控制器，稳健地处理这些检测到的异常以维护系统安全。我们在使用基于视觉的控制器进行滑行的自主飞机滑行系统上验证了所提方法。我们的结果表明，所提方法在识别和处理系统级异常方面有效，优于基于预测误差的检测和集成等方法，从而增强了自主系统的整体安全性与鲁棒性。