分割与补全：通过鲁棒补丁检测防御目标检测器对抗对抗性补丁攻击
计算机视觉与模式识别
2022-05-03 v2 密码学与安全
图像与视频处理
摘要
目标检测在许多安全关键系统中扮演着关键角色。对抗性补丁攻击易于在物理世界中实施，对最先进的目标检测器构成了严重威胁。为目标检测器开发可靠的防御措施以抵御补丁攻击至关重要，但相关研究严重不足。在本文中，我们提出了分割与补全防御（SAC），这是一个通过检测和移除对抗性补丁来防御目标检测器免受补丁攻击的通用框架。我们首先训练一个补丁分割器，它输出提供像素级对抗性补丁定位的补丁掩码。然后，我们提出一种自对抗训练算法来增强补丁分割器的鲁棒性。此外，我们设计了一种鲁棒的形状补全算法，如果补丁分割器的输出与真实补丁掩码的汉明距离在一定范围内，该算法保证能从图像中移除整个补丁。我们在 COCO 和 xView 数据集上的实验表明，即使在强大的自适应攻击下，SAC 也能实现卓越的鲁棒性，且不会降低在干净图像上的性能，并能很好地泛化到未见过的补丁形状、攻击预算和未见过的攻击方法。此外，我们提出了 APRICOT-Mask 数据集，该数据集用像素级的对抗性补丁标注增强了 APRICOT 数据集。我们展示了 SAC 可以显著降低物理补丁攻击的目标攻击成功率。我们的代码可在 https://github.com/joellliu/SegmentAndComplete 获取。
引用
@article{arxiv.2112.04532,
title = {Segment and Complete: Defending Object Detectors against Adversarial Patch Attacks with Robust Patch Detection},
author = {Jiang Liu and Alexander Levine and Chun Pong Lau and Rama Chellappa and Soheil Feizi},
journal= {arXiv preprint arXiv:2112.04532},
year = {2022}
}
备注
CVPR 2022 camera ready