通过细化集成路径提高集成梯度基的可迁移对抗样本
密码学与安全
2024-12-30 v1 计算机视觉与模式识别
机器学习
摘要
可迁移的对抗样本已知会在实际黑箱攻击场景中造成威胁。提高可迁移性的一个 notable 方法是使用集成梯度（IG），最初是为模型可解释性开发的。本文发现，现有的基于IG的攻击由于对模型可解释性的简单采用，导致可迁移性有限。为解决这一局限性，我们聚焦于IG集成路径，并在三个方面进行细化：多性、单调性和多样性，支持理论分析。我们提出一种称为Multiple Monotonic Diversified Integrated Gradients（MuMoDIG）的攻击方法，可在不同的CNN和ViT模型及防御措施上生成高度可迁移的对抗样本。实验表明，MuMoDIG在最新基于IG的攻击中性能提升最高可达37.3%，相较于其他最先进的攻击方法提升8.4%。总体而言，我们的研究表明，将既定技术迁移以提高可迁移性可能需要付出不寻常的努力。代码可在 \url{https://github.com/RYC-98/MuMoDIG} 获取。
引用
@article{arxiv.2412.18844,
title = {Improving Integrated Gradient-based Transferable Adversarial Examples by Refining the Integration Path},
author = {Yuchen Ren and Zhengyu Zhao and Chenhao Lin and Bo Yang and Lu Zhou and Zhe Liu and Chao Shen},
journal= {arXiv preprint arXiv:2412.18844},
year = {2024}
}
备注
Accepted by AAAI 2025