演示摘要：移动机器人上的实时分布外检测

在诸如自动驾驶汽车（AV）这样的信息物理系统中，机器学习（ML）模型可用于导航并识别可能干扰车辆运行的物体。然而，当呈现训练分布之外的数据时，ML 模型不太可能做出准确决策。分布外（OOD）检测可通过在运行时识别此类样本，充当 ML 模型的安全监视器。但在 AV 等安全关键系统中，OOD 检测除功能需求外还需满足实时约束。在本演示中，我们使用移动机器人作为 AV 的替代，并利用 OOD 检测器识别潜在危险样本。该机器人使用图像数据与 YOLO 目标检测网络导航微型城镇。我们展示了我们的 OOD 检测器能够在同时执行目标检测与车道跟随的嵌入式平台上实时识别 OOD 图像。我们还展示了它可用于在出现未知新颖样本时成功停车。