自动驾驶感知中的深度学习安全性关注点
机器学习
2024-07-15 v3 计算机视觉与模式识别
系统与控制
系统与控制
摘要
深度学习领域的最新进展以及深度神经网络（DNNs）在感知方面令人印象深刻的性能，导致自动驾驶（AD）系统中对其使用的需求增加。此类系统的安全性至关重要，因此需要考量 DNN 特有的性质。为了以系统且全面的方式实现含基于 DNN 感知组件的 AD 系统的安全性，所谓的安全性关注点（safety concerns）作为一种合适的结构化元素被引入。一方面，安全性关注点的概念——按设计——与 AD 系统安全相关的现有标准（如 ISO 21448（SOTIF））高度契合。另一方面，它已启发若干学术出版物及即将出台的 AI 安全标准，如 ISO PAS 8800。尽管安全性关注点的概念此前已被提出，本文借助来自该领域众多领域与安全专家的反馈对其进行了扩展与精炼。特别地，本文引入了一种额外的分类方式，以增进理解并使得跨职能团队能够共同应对这些关注点。
引用
@article{arxiv.2309.03774,
title = {Deep Learning Safety Concerns in Automated Driving Perception},
author = {Stephanie Abrecht and Alexander Hirsch and Shervin Raafatnia and Matthias Woehrle},
journal= {arXiv preprint arXiv:2309.03774},
year = {2024}
}
备注
Added note regarding accepted version at IEEE Transactions on Intelligent Vehicles with DOI