你无法轻易抓到我：一种针对目标检测器的低可检测对抗补丁
计算机视觉与模式识别
2021-10-01 v1 人工智能
摘要
盲点或公然欺骗可能困扰并误导机器学习模型。未识别物体如数字“贴纸”（亦称对抗补丁）可愚弄人脸识别系统、监控系统与自动驾驶汽车。幸运的是，大多数现有对抗补丁可被一个称为对抗补丁检测器的简单分类网络智取、禁用并拒绝，该网络区分对抗补丁与原始图像。目标检测器对图像中物体类型进行分类与预测（例如区分摩托车手与摩托车），同时还通过围绕每个物体“绘制”所谓边界框来定位每个物体在图像中的位置，再次将摩托车手与摩托车分离。然而，为了训练更好的检测器，我们需要持续用令人困惑或欺骗性的对抗补丁探测模型盲点。为此，我们提出一种新方法——低可检测对抗补丁(LDAP)，它以小而纹理一致的对抗补丁攻击目标检测器，使这些对抗样本更不易被识别。具体而言，我们使用若干几何基元对补丁的形状与位置建模。为提升攻击性能，我们还依据损失函数对边界框赋予不同权重。我们在通用检测数据集COCO以及驾驶视频数据集D2-City上的实验表明，LDAP是一种有效的攻击方法，且可抵抗对抗补丁检测器。
引用
@article{arxiv.2109.15177,
title = {You Cannot Easily Catch Me: A Low-Detectable Adversarial Patch for Object Detectors},
author = {Zijian Zhu and Hang Su and Chang Liu and Wenzhao Xiang and Shibao Zheng},
journal= {arXiv preprint arXiv:2109.15177},
year = {2021}
}