基于动态优化聚类的鲁棒物理对抗性补丁

深度学习系统的物理对抗性攻击因易于部署而令人担忧，通常通过在场景中放置对抗性补丁来操纵深度学习模型的输出。训练此类补丁通常需要正则化，以提高物理可实现性（如可印刷性、平滑性）和/或对真实世界可变性的鲁棒性（如变形、视角、噪声）。一种少被关注的可变性是尺度可变性。当补丁被重新缩放——无论是通过数字下采样/上采样，还是通过更改成像距离——插值引起的颜色混合就会发生。这会平滑像素值，导致高频模式丢失并降低对抗信号。为此，我们提出一种新型的超像素基于正则化方法，以引导补丁优化以适应尺度鲁棒结构。我们的方法采用简单线性迭代聚类（SLIC）算法在优化期间动态聚类对抗性补丁中的像素。利用隐函数定理对SLIC进行反向传播，以更新超像素边界和颜色。此举可产生在尺度上保持其结构的补丁，并且对插值损失更不易受影响。我们的方法在数字域取得更好的性能，而且在实际物理实现中，这些性能提升也得以保留，导致更好的物理性能。我们提出了一种新型的物理评估方案，客观地评估了实际表现，该方案利用屏幕和纸板 cut-out 系统地变异真实世界条件。