关于在安全关键感知任务中使用深度学习的安全担忧与缓解方法
机器学习
2020-01-23 v1 计算机视觉与模式识别
机器学习
摘要
在设计用于机器人、无人机或自动驾驶车辆等自主智能体的感知流水线时，深度学习方法被广泛视为不可或缺。然而，深度学习尚未大规模用于自主智能体的主要原因在于安全担忧。深度学习方法通常表现出黑箱行为，难以针对安全关键方面进行评估。尽管已有一些关于深度学习安全性的工作，多数论文通常聚焦于高层安全担忧。在本工作中，我们力求深入深度学习方法的安全担忧，并在深层技术层面上给出简明的枚举。此外，我们广泛讨论可能的缓解方法，并展望哪些缓解方法仍缺失，以便为深度学习方法的安全性论证提供支持。
引用
@article{arxiv.2001.08001,
title = {Safety Concerns and Mitigation Approaches Regarding the Use of Deep Learning in Safety-Critical Perception Tasks},
author = {Oliver Willers and Sebastian Sudholt and Shervin Raafatnia and Stephanie Abrecht},
journal= {arXiv preprint arXiv:2001.08001},
year = {2020}
}