利用分布外平滑防御针对目标检测器的补丁攻击
机器学习
2024-12-09 v2 密码学与安全
计算机视觉与模式识别
摘要
针对目标检测器的补丁攻击近来备受关注，因其可在物理上实现且更贴近实际系统。为应对该威胁，已提出许多新防御方法，其训练一个补丁分割模型，在图像传入下游模型前检测并移除补丁。我们用一个灵活框架OODSmoother统一这些方法，其刻画了旨在移除对抗补丁的方法之性质。该框架自然引导我们设计1）一种打破现有目标检测器补丁攻击防御的新型自适应攻击，以及2）一种利用语义先验的新型防御方法SemPrior。SemPrior背后的关键洞见是，现有基于机器学习的补丁检测器难以学习语义先验，而显式引入它们可提升性能。我们发现，仅SemPrior即可带来高达40%的提升，或与现有防御结合时高达60%的提升。
引用
@article{arxiv.2205.08989,
title = {Defending Object Detectors against Patch Attacks with Out-of-Distribution Smoothing},
author = {Ryan Feng and Neal Mangaokar and Jihye Choi and Somesh Jha and Atul Prakash},
journal= {arXiv preprint arXiv:2205.08989},
year = {2024}
}