自动驾驶模型上对抗攻击与防御的分析
信号处理
2020-02-07 v1 密码学与安全
机器学习
摘要
如今，自动驾驶已引起工业界和学术界的广泛关注。卷积神经网络（CNN）是自动驾驶中的关键组件，也日益应用于智能手机、可穿戴设备和物联网网络等普适计算中。先前的研究表明基于 CNN 的分类模型易受对抗攻击。然而，回归模型（如驾驶模型）在多大程度上易受对抗攻击、现有防御技术的有效性，以及对系统和中间件构建者的防御启示仍不确定。本文对三种驾驶模型上的五种对抗攻击和四种防御方法进行了深入分析。实验表明，与分类模型类似，这些模型仍然高度易受对抗攻击。这对自动驾驶构成了巨大的安全威胁，因此应在实践中加以考虑。尽管这些防御方法能有效抵御不同攻击，但没有任何一种能够针对全部五种攻击提供充分保护。我们为系统和中间件构建者得出若干启示：（1）在增加针对对抗攻击的防御组件时，串联部署多种防御方法以实现对各种攻击的良好覆盖十分重要；（2）黑盒攻击相比白盒攻击效果差得多，这意味着通过模型混淆保持模型细节（如模型架构、超参数）的机密性十分重要；（3）若计算资源允许，偏好具有复杂架构的驾驶模型，因为它们比简单模型对对抗攻击更具韧性。
引用
@article{arxiv.2002.02175,
title = {An Analysis of Adversarial Attacks and Defenses on Autonomous Driving Models},
author = {Yao Deng and Xi Zheng and Tianyi Zhang and Chen Chen and Guannan Lou and Miryung Kim},
journal= {arXiv preprint arXiv:2002.02175},
year = {2020}
}