物理对抗补丁攻击针对俯视目标检测模型的实证评估
计算机视觉与模式识别
2022-06-28 v1
摘要
对抗补丁是为欺骗原本性能良好的基于神经网络的计算机视觉模型而设计的图像。尽管这些攻击最初是在数字领域被提出和研究的，即扰动图像的原始像素值，但近期工作表明这些攻击可以成功迁移到物理世界。这可以通过打印出补丁并将其添加到新捕获的图像或视频场景中实现。在这项工作中，我们在更具挑战性的条件下进一步测试物理世界中对抗补丁攻击的有效性。我们考虑在通过航空或卫星相机获取的俯视图像上训练的目标检测模型，并测试插入沙漠环境场景中的物理对抗补丁。我们的主要发现是，在这些条件下成功实施对抗补丁攻击远比先前考虑的条件困难得多。这对 AI 安全具有重要意义，因为对抗样本所构成的现实威胁可能被夸大了。
引用
@article{arxiv.2206.12725,
title = {Empirical Evaluation of Physical Adversarial Patch Attacks Against Overhead Object Detection Models},
author = {Gavin S. Hartnett and Li Ang Zhang and Caolionn O'Connell and Andrew J. Lohn and Jair Aguirre},
journal= {arXiv preprint arXiv:2206.12725},
year = {2022}
}