不可见的对手者：对抗性补丁的鲁棒性与通用防御

深度神经网络对奇异性的脆弱性引发了对其在物理世界部署的严重关切。一种最突出且具有重大影响的物理世界对抗扰动是将补丁附加到干净图像上，称为对抗性补丁攻击。类似地，自然噪声如高斯噪声和盐粒噪声在现实世界中广为常见。当前研究需求源于上述脆弱性以及缺乏独立尤其是结合处理这两种奇异性的努力。本研究中，我们首次将这两种突出奇异性组合，并提出了一种新的数据集。使用该数据集，我们对使用来自多个卷积神经网络特征的奇异性数据点检测进行了基准测试。对于分类，虽然流行的基于神经网络的参数调谋方法，我们使用了传统且有效的机器学习分类器。在各种内部和外部分布(OOD)奇异性下的广泛实验揭示了关于分类器有效性的几个有趣发现，表明当这些对手者被独立处理时，尤其是选取不够高效的分类器时，防御对手者是很难的。