利用对抗语义轮廓实现自身不可见
计算机视觉与模式识别
2023-03-02 v1
摘要
现代目标检测器易受对抗样本的攻击，这可能给实际应用带来风险。稀疏攻击是一项重要任务，与流行的整图对抗扰动相比，它需要选择潜在像素（通常由 范数约束正则化），并同时优化相应纹理。 范数的不可微性带来了挑战，许多针对目标检测的攻击工作采用人工设计的图案来应对，这些图案无意义且独立于物体，因而导致相对较差的攻击性能。在本文中，我们提出对抗语义轮廓（Adversarial Semantic Contour, ASC），它是具有欺骗性物体轮廓先验的稀疏攻击贝叶斯公式的 MAP 估计。物体轮廓先验有效缩减了像素选择的搜索空间，并通过引入更多语义偏置改进了攻击。大量实验表明，ASC 在白盒场景下通过修改 COCO 中物体区域少于 5% 的像素、在黑盒场景下修改约 10% 的像素，即可破坏 9 种不同架构（例如单阶段、两阶段与 Transformer）的现代检测器的预测。我们进一步将攻击扩展到自动驾驶系统数据集以验证有效性。我们最后警示：轮廓是各种架构目标检测器的共同弱点，在将其应用于安全敏感场景时需谨慎。
引用
@article{arxiv.2303.00284,
title = {To Make Yourself Invisible with Adversarial Semantic Contours},
author = {Yichi Zhang and Zijian Zhu and Hang Su and Jun Zhu and Shibao Zheng and Yuan He and Hui Xue},
journal= {arXiv preprint arXiv:2303.00284},
year = {2023}
}
备注
11 pages, 7 figures, published in Computer Vision and Image Understanding in 2023