一种噪声统领一切：基于通用扰动的多视图对抗攻击
计算机视觉与模式识别
2024-04-04 v1 人工智能
摘要
本文提出了一种新颖的通用扰动方法，用于在3D物体识别中生成鲁棒的多视图对抗样本。与仅限于单视图的传统攻击不同，我们的方法作用于多幅2D图像，为提升模型可扩展性和鲁棒性提供了实用且可扩展的解决方案。这种可泛化的方法弥合了2D扰动与类3D攻击能力之间的差距，使其适用于实际应用。当图像经历光照变化、相机位置变化或自然变形等变换时，现有的对抗攻击可能会失效。我们通过精心设计一种适用于各种物体视图的单一通用噪声扰动来解决这一挑战。在多样化渲染的3D物体上的实验证明了我们方法的有效性。通用扰动成功地为多姿态和视点下渲染的每组给定3D物体识别出单一对抗噪声。与单视图攻击相比，我们的通用攻击在多个视角下降低了分类置信度，尤其是在低噪声水平下。示例实现可在 https://github.com/memoatwit/UniversalPerturbation 获取。
引用
@article{arxiv.2404.02287,
title = {One Noise to Rule Them All: Multi-View Adversarial Attacks with Universal Perturbation},
author = {Mehmet Ergezer and Phat Duong and Christian Green and Tommy Nguyen and Abdurrahman Zeybey},
journal= {arXiv preprint arXiv:2404.02287},
year = {2024}
}
备注
6 pages, 4 figures, presented at ICAIA, Springer to publish under Algorithms for Intelligent Systems