SSMI：如何在无需访问目标检测器的情况下使感兴趣目标消失？
计算机视觉与模式识别
2022-06-23 v1 人工智能
摘要
大多数面向目标检测器的黑盒对抗攻击方案主要存在两点不足：需要访问目标模型，以及生成低效的对抗样本（无法使大量目标消失）。为克服这些不足，我们提出了一种基于语义分割与模型反演的黑盒对抗攻击方案(SSMI)。我们首先利用语义分割技术定位目标物体的位置。接着，我们设计邻域背景像素替换，将目标区域像素替换为背景像素，以确保像素修改不易被人眼察觉。最后，我们重建机器可识别的样本，并利用掩码矩阵选取重建样本中的像素来修改良性图像以生成对抗样本。详尽的实验结果表明，SSMI能够生成高效的对抗样本以规避人眼感知并使感兴趣目标消失。更重要的是，SSMI优于现有同类攻击。新增与消失标签的最大增幅为16%，目标检测mAP指标的最大降幅为36%。
引用
@article{arxiv.2206.10809,
title = {SSMI: How to Make Objects of Interest Disappear without Accessing Object Detectors?},
author = {Hui Xia and Rui Zhang and Zi Kang and Shuliang Jiang},
journal= {arXiv preprint arXiv:2206.10809},
year = {2022}
}
备注
6 pages, 2 figures