X-Detect：面向零售场景目标检测器的可解释对抗补丁检测
计算机视觉与模式识别
2023-07-04 v2
摘要
目标检测模型被广泛应用于多个领域（如零售），但已被证明易受对抗攻击。现有的针对目标检测器的对抗攻击检测方法在检测新的现实攻击时存在困难。我们提出 X-Detect，一种新颖的对抗补丁检测器，它能够：i) 实时检测对抗样本，使防御者能够采取预防措施；ii) 为所发出的警报提供解释以支持防御者的决策过程；iii) 以新攻击的形式应对不熟悉的威胁。给定新场景，X-Detect 使用一组可解释设计的检测器集成，利用目标提取、场景操控和特征变换技术来判断是否需要发出警报。X-Detect 在物理和数字空间中通过使用五种不同攻击场景（包括自适应攻击）以及 COCO 数据集和我们的新 Superstore 数据集进行了评估。物理评估使用智能购物车设置在真实环境中进行，包含在 1700 个对抗视频中记录的 17 次对抗补丁攻击。结果表明，在所有攻击场景中，X-Detect 在区分良性与对抗场景方面优于最先进的方法，同时保持 0% 的 FPR（无误报）并为所发警报提供可操作的解释。已提供演示。
引用
@article{arxiv.2306.08422,
title = {X-Detect: Explainable Adversarial Patch Detection for Object Detectors in Retail},
author = {Omer Hofman and Amit Giloni and Yarin Hayun and Ikuya Morikawa and Toshiya Shimizu and Yuval Elovici and Asaf Shabtai},
journal= {arXiv preprint arXiv:2306.08422},
year = {2023}
}