感知单纯形：在障碍物检测故障下自动驾驶车辆的可验证碰撞避免
机器人学
2024-05-30 v2 机器学习
系统与控制
系统与控制
摘要
深度学习的进展已彻底改变了信息物理应用，包括自动驾驶车辆的开发。然而，涉及车辆自主控制的现实碰撞事故，引发了关于在安全关键任务（尤其是感知）中使用深度神经网络（Deep Neural Networks, DNN）的重大安全担忧。DNN 固有的不可验证性，对其安全可靠运行构成关键挑战。本工作中，我们提出感知单纯形（Perception Simplex, PS）——一种面向障碍物检测与碰撞避免的容错应用架构。我们分析现有的基于 LiDAR 的经典障碍物检测算法，以确立其能力与时延的严格边界。此类分析与验证尚无法用于基于深度学习的感知系统。通过采用可验证的障碍物检测算法，PS 能识别不可验证的基于 DNN 的物体检测器输出中的障碍物存在检测故障。当检测到具有潜在碰撞风险的故障时，即启动相应的纠正动作。通过广泛分析与软件在环仿真，我们证明 PS 针对障碍物存在检测故障提供了可预测且确定性的容错能力，建立了稳健的安全保障。
引用
@article{arxiv.2209.01710,
title = {Perception Simplex: Verifiable Collision Avoidance in Autonomous Vehicles Amidst Obstacle Detection Faults},
author = {Ayoosh Bansal and Hunmin Kim and Simon Yu and Bo Li and Naira Hovakimyan and Marco Caccamo and Lui Sha},
journal= {arXiv preprint arXiv:2209.01710},
year = {2024}
}
备注
arXiv admin note: substantial text overlap with arXiv:2208.14403