检测防御：对抗光流对抗补丁攻击的空洞承诺
计算机视觉与模式识别
2023-11-03 v2 机器学习
摘要
对抗补丁在任意场景位置出现时会破坏光流预测的可靠性。因此，它们对现实世界中的运动检测及其下游应用构成了真实威胁。潜在的补救措施是检测并移除对抗补丁的防御策略，但其对底层运动预测的影响尚未得到研究。在本文中，我们针对广泛选用的前沿光流方法，彻底检验了当前可用的检测并移除防御 ILP 与 LGS，并阐明了它们对最终光流预测质量与鲁棒性的副作用。特别地，我们实现了防御感知攻击，以考察当前防御能否抵御考虑了防御机制的攻击。我们的实验得出了两个令人惊讶的结果：除 FlowNetC 外，检测并移除防御不仅降低了良性场景下的光流质量，还在此过程中损害了所有被测光流方法在补丁攻击下的鲁棒性。由于当前采用的检测并移除防御未能兑现其所承诺的光流对抗鲁棒性，它们引发了虚假的安全感。代码见 https://github.com/cv-stuttgart/DetectionDefenses。
引用
@article{arxiv.2310.17403,
title = {Detection Defenses: An Empty Promise against Adversarial Patch Attacks on Optical Flow},
author = {Erik Scheurer and Jenny Schmalfuss and Alexander Lis and Andrés Bruhn},
journal= {arXiv preprint arXiv:2310.17403},
year = {2023}
}
备注
Accepted to WACV 2024