基于扩散模型的真实世界对抗性补丁防御
计算机视觉与模式识别
2024-09-17 v1 人工智能
密码学与安全
机器学习
摘要
对抗性补丁对深度学习模型的鲁棒性构成了重大挑战，因此开发有效的防御对于现实世界应用变得至关重要。本文介绍了DIFFender，一种新颖的基于扩散的防御框架，它利用文本引导扩散模型的力量来对抗对抗性补丁攻击。我们方法的核心是发现了对抗性异常感知（AAP）现象，该现象使扩散模型能够通过分析分布异常来准确检测和定位对抗性补丁。DIFFender在统一的扩散模型框架内无缝集成了补丁定位和恢复任务，通过它们的紧密交互增强了防御效果。此外，DIFFender采用了一种高效的少样本提示调优算法，促进了预训练扩散模型对防御任务的适应，而无需大量重新训练。我们的全面评估涵盖了图像分类和人脸识别任务以及真实世界场景，证明了DIFFender对抗对抗性攻击的鲁棒性能。该框架在各种设置、分类器和攻击方法中的多功能性和泛化能力标志着对抗性补丁防御策略的重大进步。除了流行的可见光领域，我们发现了DIFFender的另一个优势：它能够轻松扩展到红外领域。因此，我们展示了DIFFender的良好灵活性，它可以使用统一的防御框架交替防御红外和可见光对抗性补丁攻击。
引用
@article{arxiv.2409.09406,
title = {Real-world Adversarial Defense against Patch Attacks based on Diffusion Model},
author = {Xingxing Wei and Caixin Kang and Yinpeng Dong and Zhengyi Wang and Shouwei Ruan and Yubo Chen and Hang Su},
journal= {arXiv preprint arXiv:2409.09406},
year = {2024}
}