愚弄九头蛇：针对多视角目标检测系统的对抗攻击

对抗补丁体现了真实场景中机器学习（ML）模型所受对抗攻击威胁的具体表现。在设计计算机视觉应用时，针对这些攻击的鲁棒性至关重要，尤其是对于闭路电视（CCTV）系统等安全关键领域。在大多数实际情况下，监控开放空间需要多视角系统来克服诸如遮挡处理等采集难题。多视角目标系统能够融合来自多个视角的数据，即使在困难环境中也能获得可靠检测结果。尽管多视角系统在真实视觉应用中十分重要，但其对对抗补丁的脆弱性尚未得到充分研究。本文提出以下问题：跨视角性能提升与信息共享是否作为副产品提供了对对抗补丁的鲁棒性？我们首先进行初步分析，显示出对现成对抗补丁具有可观鲁棒性，即使在极端设定下——我们考虑 Wildtrack 基准中所有人物应用于所有视角的补丁。然而，我们通过提出两种新攻击挑战了该观察：（i）第一种攻击针对多视角 CNN，通过提出将梯度投影到不同视角并聚合所得局部梯度来最大化全局损失。（ii）第二种攻击聚焦于基于 Transformer 的多视角框架。除 focal loss 外，我们还通过消散其注意力块来最大化 Transformer 特有损失。我们的结果显示受害多视角系统的检测性能大幅退化：第一种补丁攻击达到 73% 的攻击成功率，而第二种提出的攻击使其目标检测器性能降低 62%。