增强目标检测鲁棒性：检测并恢复对抗性补丁攻击下的置信度
计算机视觉与模式识别
2025-06-30 v2 人工智能
摘要
计算机视觉系统的广泛采用凸显了其对抗性攻击的脆弱性，特别是针对目标检测器的对抗性补丁攻击。本研究评估了针对 YOLOv5 模型的防御机制。通过应用 EigenCAM 和网格搜索确定最佳位置，生成优化后的对抗性补丁并置于敏感图像区域。我们测试了各种防御措施，包括 Segment 和 Complete（SAC）、Inpainting 和 Latent Diffusion Models。我们的管线包括三个主要阶段：补丁应用、目标检测和防御分析。结果表明，对抗性补丁将平均检测置信度降低 22.06%。防御措施（SAC）恢复了 3.45% 的置信度，Inpainting 恢复了 5.05% 的置信度，而 Latent Diffusion Model 将置信度显著提升 26.61%，甚至超过原始准确率水平，凸显其在缓解对抗性补丁影响方面的优势。
引用
@article{arxiv.2403.12988,
title = {Enhancing Object Detection Robustness: Detecting and Restoring Confidence in the Presence of Adversarial Patch Attacks},
author = {Roie Kazoom and Raz Birman and Ofer Hadar},
journal= {arXiv preprint arXiv:2403.12988},
year = {2025}
}