关于广义“跳过连接”对抗性可迁移性的研究
机器学习
2026-03-17 v2 人工智能
摘要
跳过连接是现代深度模型实现更深层次和更强大性能的关键要素。尽管在正常场景下（如在自然样本上的状态-of-the-art 分类性能）取得了巨大成功，但我们调查并识别了跳过连接在对抗性场景下的一个有趣属性，即使用跳过连接可以更容易地生成高度可迁移的对抗性示例。具体而言，在采用跳过连接的 ResNet 类模型中，我们发现在反向传播时偏向于选择跳过连接的梯度——同时通过衰减因子抑制残差模块的梯度——可以制作出具有高可迁移性的对抗性示例。基于这一洞察，我们提出了跳过梯度方法（Skip Gradient Method, SGM）。虽然从视觉领域的 ResNet 类模型开始，但我们进一步将 SGM 扩展到更先进的架构，包括 Vision Transformer（ViT）、可变长度路径的模型以及自然语言处理等其他领域。我们对包括 ResNets、Transformers、Inceptions、神经网络搜索（Neural Architecture Search）基于模型以及大型语言模型（Large Language Model, LLM）等多个模型族进行了全面的基于迁移的攻击。结果表明，在几乎所有情况下采用 SGM 都能大大提高所制作攻击的可迁移性。此外，我们证明 SGM 在更具挑战性的设置下仍然有效，如基于集合的攻击、定向攻击以及针对具备防御措施的模型。最后，我们对 SGM 的工作原理提供了理论解释和实证洞察。我们的发现不仅催生了对模型架构特征的新型对抗性研究，还为安全模型架构设计开辟了 further 挑战。我们的代码已公开于 https://github.com/mo666666/SGM。
引用
@article{arxiv.2410.08950,
title = {On the Adversarial Transferability of Generalized "Skip Connections"},
author = {Yisen Wang and Yichuan Mo and Dongxian Wu and Mingjie Li and Xingjun Ma and Zhouchen Lin},
journal= {arXiv preprint arXiv:2410.08950},
year = {2026}
}