基于集成方法的密集预测黑盒攻击
计算机视觉与模式识别
2023-03-28 v1 密码学与安全
机器学习
摘要
我们提出了一种针对密集预测模型（如目标检测器和分割模型）的对抗攻击方法。众所周知，由单一替代模型生成的攻击无法迁移到任意（黑盒）受害模型。此外，目标攻击通常比无目标攻击更具挑战性。在本文中，我们展示了精心设计的集成方法可以为多个受害模型创建有效的攻击。特别地，我们表明各个模型权重的归一化在攻击成功中起着关键作用。然后我们证明，根据受害模型调整集成的权重可以进一步提升攻击性能。我们针对目标检测器和分割进行了大量实验，以凸显我们所提方法的重要性。我们提出的基于集成的方法在目标检测和分割上优于现有的黑盒攻击方法。最后我们表明，我们所提方法还能生成单一扰动，可同时欺骗多个黑盒检测和分割模型。代码见 https://github.com/CSIPlab/EBAD。
引用
@article{arxiv.2303.14304,
title = {Ensemble-based Blackbox Attacks on Dense Prediction},
author = {Zikui Cai and Yaoteng Tan and M. Salman Asif},
journal= {arXiv preprint arXiv:2303.14304},
year = {2023}
}
备注
CVPR 2023 Accepted