基于反向传播路径搜索的对抗可迁移性研究
计算机视觉与模式识别
2023-08-16 v1 密码学与安全
机器学习
摘要
深度神经网络易受对抗样本的攻击，这决定了在部署前测试模型鲁棒性的必要性。基于迁移的攻击者针对替代模型生成对抗样本，并将其迁移至黑盒场景下部署的受害模型。为增强对抗可迁移性，基于结构的攻击者调整反向传播路径以避免攻击过拟合替代模型。然而，现有基于结构的攻击者未能探索CNN中的卷积模块，且启发式地修改反向传播图，导致效果有限。本文中，我们提出反向传播路径搜索（PAS），解决上述两个问题。我们首先提出SkipConv，通过结构重参数化调整卷积的反向传播路径。为克服启发式设计反向传播路径的缺陷，我们进一步构建基于DAG的搜索空间，利用一步近似进行路径评估，并采用贝叶斯优化搜索最优路径。我们在广泛的迁移设置下进行了综合实验，表明PAS对于正常训练与防御模型均大幅提升攻击成功率。
引用
@article{arxiv.2308.07625,
title = {Backpropagation Path Search On Adversarial Transferability},
author = {Zhuoer Xu and Zhangxuan Gu and Jianping Zhang and Shiwen Cui and Changhua Meng and Weiqiang Wang},
journal= {arXiv preprint arXiv:2308.07625},
year = {2023}
}
备注
Accepted by ICCV2023