基于深度学习的自动驾驶中的新兴威胁：综述

自 2004 年 DARPA 大挑战赛以来，自动驾驶技术经历了近二十年的快速发展。特别是近年来，随着新传感器与深度学习技术向自动驾驶领域的应用拓展，自动驾驶技术的发展持续取得突破。因此，许多汽车制造商与高科技巨头致力于自动驾驶的研究与系统开发。然而，作为自动驾驶基础的深度学习技术面临诸多新安全风险。学术界已提出针对对抗样本与 AI 后门的深度学习对策，并将其引入自动驾驶领域进行验证。深度学习安全关乎自动驾驶系统安全，进而关乎人身安全，是值得关注与研究的问题。本文综述了自动驾驶中深度学习安全技术的概念、发展与近期研究。首先，我们简要介绍自动驾驶系统中的深度学习框架与流程，主要包括该领域常用的深度学习技术与算法。此外，我们依次聚焦于基于深度学习的自动驾驶系统各功能层的潜在安全威胁。我们回顾了面向自动驾驶的深度学习攻击技术的发展，调研了当前最优（State-of-the-Art）算法，并揭示了潜在风险。最后，我们对自动驾驶领域的深度学习安全进行展望，并就构建安全可信的自动驾驶系统提出建议。