空间上下文在目标检测对抗鲁棒性中的作用
计算机视觉与模式识别
2020-04-21 v3
摘要
在快速目标检测算法中利用空间上下文的好处已被广泛研究。检测器通过对每幅图像单次前向传播来提高推理速度，这意味着它们隐式地使用上下文推理进行预测。然而，可以证明， adversary 能够设计不与场景中任何感兴趣目标重叠的对抗补丁，并利用上下文推理来欺骗标准检测器。在本文中，我们研究这一问题并设计类别特定的对抗补丁，使像YOLO这样被广泛使用的目标检测器对攻击者选定的目标类别视而不见。我们还表明，在目标检测器训练期间限制空间上下文的使用可提升对此类 adversary 的鲁棒性。我们认为基于上下文的对抗攻击的存在令人担忧，因为对抗补丁可在不靠近任何感兴趣目标的情况下影响预测。因此，防御此类攻击变得具有挑战性，我们敦促研究界关注这一漏洞。
引用
@article{arxiv.1910.00068,
title = {Role of Spatial Context in Adversarial Robustness for Object Detection},
author = {Aniruddha Saha and Akshayvarun Subramanya and Koninika Patil and Hamed Pirsiavash},
journal= {arXiv preprint arXiv:1910.00068},
year = {2020}
}
备注
CVPR 2020 Workshop on Adversarial Machine Learning in Computer Vision