通过块洗牌与旋转提升对抗迁移性
计算机视觉与模式识别
2024-03-26 v3 图像与视频处理
摘要
对抗样本以难以察觉的扰动误导深度神经网络，并已对深度学习带来重大威胁。一个重要方面是其迁移性，即欺骗其他模型的能力，从而在黑盒设定下实现攻击。尽管已提出多种方法提升迁移性，其性能仍落后于白盒攻击。本工作中，我们观察到现有基于输入变换的攻击（主流迁移攻击之一）在不同模型上产生不同的注意力热力图，这可能限制迁移性。我们还发现破坏图像的内在关联可扰乱原图像的注意力热力图。基于该发现，我们提出一种名为块洗牌与旋转（BSR）的新型基于输入变换的攻击。具体而言，BSR 将输入图像分割为若干块，随后随机洗牌并旋转这些块，以构造一组新图像用于梯度计算。在 ImageNet 数据集上的实证评估表明，在单模型与集成模型设定下，BSR 的迁移性均显著优于现有基于输入变换的方法。将 BSR 与当前输入变换方法结合可进一步提升迁移性，显著优于最先进方法。代码见 https://github.com/Trustworthy-AI-Group/BSR
引用
@article{arxiv.2308.10299,
title = {Boosting Adversarial Transferability by Block Shuffle and Rotation},
author = {Kunyu Wang and Xuanran He and Wenxuan Wang and Xiaosen Wang},
journal= {arXiv preprint arXiv:2308.10299},
year = {2024}
}
备注
Accepted by CVPR 2024