通过多样化高层特征提升对抗迁移性
计算机视觉与模式识别
2023-09-18 v2
摘要
鉴于深度神经网络（DNNs）所受对抗攻击的巨大威胁，已有大量工作提出以提升迁移性来攻击现实应用。然而，现有攻击常利用高级梯度计算或输入变换却忽略白盒模型。受DNNs为优越性能而过度参数化这一事实启发，我们提出多样化高层特征（DHF）以生成迁移性更强的对抗样本。具体而言，DHF在每次迭代计算梯度时，通过随机变换高层特征并将其与良性样本的特征混合来扰动高层特征。由于参数的冗余性，此类变换不影响分类性能，但有助于识别跨不同模型的不变特征，从而大幅提升迁移性。在ImageNet数据集上的实证评估表明，DHF能有效提升现有基于动量的攻击的迁移性。结合基于输入变换的攻击，DHF生成了迁移性更强的对抗样本，并在攻击若干防御模型时以明显优势超越基线，显示出其对各类攻击的泛化性及提升迁移性的高效性。代码见https://github.com/Trustworthy-AI-Group/DHF。
引用
@article{arxiv.2304.10136,
title = {Diversifying the High-level Features for better Adversarial Transferability},
author = {Zhiyuan Wang and Zeliang Zhang and Siyuan Liang and Xiaosen Wang},
journal= {arXiv preprint arXiv:2304.10136},
year = {2023}
}
备注
Accepted by BMVC 2023 (Oral)