通过融合 Top-1 分解特征对数几率提升对抗迁移性
计算机视觉与模式识别
2023-07-06 v3 密码学与安全
摘要
近期研究表明，深度神经网络（DNNs）对对抗样本高度脆弱，这些样本具有高度迁移性，可用于攻击其他未知的黑盒模型。为提升对抗样本的迁移性，若干基于特征的对抗攻击方法已被提出以破坏中间层的神经元激活。然而，当前最先进的基于特征的攻击方法通常需要额外的计算成本来估计神经元的重要性。为应对这一挑战，我们提出了一种基于奇异值分解（SVD）的特征级攻击方法。我们的方法受如下发现的启发：从中间层特征分解出的较大奇异值所对应的特征向量展现出更优的泛化与注意力特性。具体而言，我们通过保留分解出的 Top-1 奇异值关联特征来计算输出对数几率（logits），并将其与原始对数几率结合以优化对抗样本。我们广泛的实验结果验证了所提方法的有效性，其可轻松集成至各类基线中，显著增强对抗样本在扰动正常训练的 CNNs 与先进防御策略时的迁移性。本研究的源代码可在 https://github.com/WJJLL/SVD-SSA 获取。
引用
@article{arxiv.2305.01361,
title = {Boosting Adversarial Transferability via Fusing Logits of Top-1 Decomposed Feature},
author = {Juanjuan Weng and Zhiming Luo and Dazhen Lin and Shaozi Li and Zhun Zhong},
journal= {arXiv preprint arXiv:2305.01361},
year = {2023}
}