物理世界中的对抗样本：综述
计算机视觉与模式识别
2024-08-23 v3 人工智能
机器学习
摘要
深度神经网络（DNNs）已表现出对对抗样本的高度脆弱性，引发了关于其应用的广泛安全担忧。除了数字世界中的攻击外，物理世界中对抗样本的实际影响带来了重大挑战与安全顾虑。然而，当前关于物理对抗样本（PAEs）的研究缺乏对其独特特征的全面理解，导致意义与认知均有限。在本文中，我们通过在实际工作流（涵盖训练、制造与重采样过程）中透彻考察 PAEs 的特征来弥补这一缺口。通过分析物理对抗攻击之间的联系，我们将制造与重采样识别为 PAEs 中独特属性与特殊性的主要来源。利用该知识，我们基于 PAEs 的具体特征开发了一个全面的分析与分类框架，涵盖了超过 100 项关于物理世界对抗样本的研究。此外，我们调研了针对 PAEs 的防御策略，并指出了未来研究的开放挑战与机遇。我们旨在提供对 PAEs 新颖、透彻且系统的理解，从而推动鲁棒对抗学习的发展及其在开放世界场景中的应用，并为社区提供在所提框架内持续更新的物理世界对抗样本资源列表，包括论文、代码等。
引用
@article{arxiv.2311.01473,
title = {Adversarial Examples in the Physical World: A Survey},
author = {Jiakai Wang and Xianglong Liu and Jin Hu and Donghua Wang and Siyang Wu and Tingsong Jiang and Yuanfang Guo and Aishan Liu and Jiantao Zhou},
journal= {arXiv preprint arXiv:2311.01473},
year = {2024}
}
备注
Adversarial examples, physical-world scenarios, attacks and defenses