打破幻象：对目标检测中对抗性补丁的现实挑战

对抗性攻击构成对机器学习系统尤其是计算机视觉应用的鲁棒性和可靠性的重大威胁。本研究探讨了对抗性补丁在物理世界中对YOLO目标检测网络性能的影响。测试了两种攻击方式：一种设计用于在场景中随意放置的全局补丁，另一种设计用于部分重叠特定目标以从检测中移除的局部补丁。分析了补丁大小、位置、旋转、亮度和色调等因素对攻击效果的影响。结果显示，这些参数对攻击效果具有显著依赖性，凸显在现实条件下维持攻击有效性的挑战。即使学习将数字应用的变换参数与实际测量的变换参数对齐，仍可能导致补丁性能达到64%的差异。这些发现凸显了理解环境对对抗性攻击影响的重要性，这有助于为实际机器学习应用开发更健壮的防御措施。