自动驾驶汽车安全吗？针对转向角预测深度神经网络的规避攻击
机器学习
2019-04-17 v1 密码学与安全
机器学习
摘要
深度神经网络（DNNs）在推动自动驾驶汽车愿景方面具有巨大潜力。然而，此背景下 DNN 模型的安全性带来重大安全影响，需要被更好地理解。我们考虑从摄像头图像预测转向角的案例研究，使用 2014 年 Udacity 挑战赛的数据集。我们首次展示了该应用在分类与回归设置下的对抗性测试时攻击。我们表明，对摄像头图像的微小修改（所考虑模型之一的 L2 距离为 0.82）会导致图像被误分类为攻击者选择的任意类别。此外，我们的回归攻击在最坏情况下使均方误差（MSE）显著增加了 69 倍。
引用
@article{arxiv.1904.07370,
title = {Are Self-Driving Cars Secure? Evasion Attacks against Deep Neural Networks for Steering Angle Prediction},
author = {Alesia Chernikova and Alina Oprea and Cristina Nita-Rotaru and BaekGyu Kim},
journal= {arXiv preprint arXiv:1904.07370},
year = {2019}
}
备注
Preprint of the work accepted for publication at the IEEE Workshop on the Internet of Safe Things, San Francisco, CA, USA, May 23, 2019