通过掩蔽替代模型中的不重要参数生成具有更优迁移性的对抗样本
机器学习
2023-04-17 v1 密码学与安全
计算机视觉与模式识别
摘要
深度神经网络（DNNs）已被证明易受对抗样本的攻击。此外，对抗样本的迁移性近年来受到广泛关注，即由替代模型生成的对抗样本也能攻击未知模型。这一现象催生了基于迁移的对抗攻击，其旨在提升所生成对抗样本的迁移性。本文中，我们提出在基于迁移的攻击中通过掩蔽不重要参数（MUP）来提升对抗样本的迁移性。MUP的核心思想是对预训练替代模型进行精炼以增强基于迁移的攻击。基于该思想，使用基于泰勒展开的度量来评估参数重要性分数，并在对抗样本生成过程中掩蔽不重要参数。该过程简单，却可自然地与各种现有的基于梯度的优化器结合用于生成对抗样本，从而进一步提升所生成对抗样本的迁移性。我们进行了大量实验来验证所提基于MUP方法的有效性。
引用
@article{arxiv.2304.06908,
title = {Generating Adversarial Examples with Better Transferability via Masking Unimportant Parameters of Surrogate Model},
author = {Dingcheng Yang and Wenjian Yu and Zihao Xiao and Jiaqi Luo},
journal= {arXiv preprint arXiv:2304.06908},
year = {2023}
}
备注
Accepted at 2023 International Joint Conference on Neural Networks (IJCNN)