ObjectSeeker：通过补丁无关掩蔽实现抗补丁隐藏攻击的可证明鲁棒目标检测
计算机视觉与模式识别
2023-01-02 v2
摘要
目标检测器被广泛部署于自动驾驶等安全关键系统中，但已被发现易受补丁隐藏攻击。攻击者可使用单个物理可实现的对抗补丁使目标检测器漏检受害对象，并破坏目标检测应用的功能。在本文中，我们提出 ObjectSeeker 用于抗补丁隐藏攻击的可证明鲁棒目标检测。ObjectSeeker 的核心思想是补丁无关掩蔽：我们旨在不知道补丁形状、大小和位置的情况下掩蔽整个对抗补丁。该掩蔽操作中和了对抗效应，并允许任何原始目标检测器在掩蔽图像上安全检测对象。值得注意的是，我们能以可证明方式评估 ObjectSeeker 的鲁棒性：我们开发了一个认证过程，以正式确定 ObjectSeeker 在威胁模型内能否抵抗任何白盒自适应攻击检测某些对象，从而实现可证明鲁棒性。我们的实验表明，相较于先前工作，可证明鲁棒性有显著提升（绝对提升约 10%-40%，相对提升约 2-6 倍），且干净性能较高（与无防御模型相比下降约 1%）。
引用
@article{arxiv.2202.01811,
title = {ObjectSeeker: Certifiably Robust Object Detection against Patch Hiding Attacks via Patch-agnostic Masking},
author = {Chong Xiang and Alexander Valtchanov and Saeed Mahloujifar and Prateek Mittal},
journal= {arXiv preprint arXiv:2202.01811},
year = {2023}
}
备注
IEEE Symposium on Security and Privacy 2023; extended version