计算机视觉中物理对抗攻击综述
计算机视觉与模式识别
2023-09-19 v3
摘要
过去十年，深度学习凭借其强大的特征学习能力革新了依赖手工特征提取的传统任务，带来了传统任务的实质性提升。然而，深度神经网络（DNNs）已被证明易受由微小恶意噪声构造的对抗样本攻击，这些噪声人眼难以察觉，却能使DNNs输出错误结果。现有对抗攻击可分为数字对抗攻击与物理对抗攻击。前者旨在实验室环境中追求强攻击性能，但应用于物理世界时很难保持有效。相反，后者专注于开发物理可部署的攻击，因此在复杂物理环境条件下表现出更强的鲁棒性。近来，随着基于DNN的系统在现实世界中的部署日益增多，增强这些系统的鲁棒性迫在眉睫，而详尽探索物理对抗攻击是前提条件。为此，本文综述了针对基于DNN的计算机视觉任务的物理对抗攻击的演进，期望为开发更强的物理对抗攻击提供有益信息。具体而言，我们首先提出一种分类法对当前物理对抗攻击归类并分组。然后，我们讨论现有物理攻击，并聚焦于在复杂物理环境条件下提升物理攻击鲁棒性的技术。最后，我们讨论当前物理对抗攻击尚待解决的问题，并给出有前景的方向。
引用
@article{arxiv.2209.14262,
title = {A Survey on Physical Adversarial Attack in Computer Vision},
author = {Donghua Wang and Wen Yao and Tingsong Jiang and Guijian Tang and Xiaoqian Chen},
journal= {arXiv preprint arXiv:2209.14262},
year = {2023}
}