自动驾驶车辆技术中的黑盒对抗攻击
计算机视觉与模式识别
2021-01-18 v1 人工智能
摘要
尽管深度神经网络在现实应用中表现优异，但它们容易受到对抗攻击的微小扰动影响。这大多为人眼难以察觉。此类攻击在具有实时“安全”关切的自动驾驶车辆中影响极为有害。黑盒对抗攻击导致道路标志和交通灯等关键场景元素严重误分类，使自动驾驶车辆撞上其他车辆或行人。在本文中，我们提出一种称为改进简单黑盒攻击（M-SimBA）的新型基于查询的攻击方法，以克服基于迁移的攻击方法中对白盒源的使用。此外，简单黑盒攻击（SimBA）中收敛较晚的问题通过最小化最易混淆类别的损失得以解决，该类别是模型以最高概率预测的错误类别，而非试图最大化正确类别的损失。我们在德国交通标志识别基准（GTSRB）数据集上评估了所提方法的性能。我们表明，所提模型在收敛时间、拉平混淆类别概率分布以及生成对真实类别置信度最低的对抗样本方面优于现有模型如基于迁移的投影梯度下降（T-PGD）、SimBA。
引用
@article{arxiv.2101.06092,
title = {Black-box Adversarial Attacks in Autonomous Vehicle Technology},
author = {K Naveen Kumar and C Vishnu and Reshmi Mitra and C Krishna Mohan},
journal= {arXiv preprint arXiv:2101.06092},
year = {2021}
}
备注
7 pages, 10 figures, published in 49th Annual IEEE AIPR 2020: Trusted Computing, Privacy, and Securing Multimedia Washington, D.C. October 13-15, 2020