使用梯度正则化降低对抗样本可迁移性
机器学习
2019-04-18 v1 密码学与安全
机器学习
摘要
越来越多的研究表明，深度学习算法对简单的对抗样本缺乏鲁棒性。同样令人不安的是，这些对抗样本能在不同数据集上训练的不同架构之间迁移。我们利用不同模型的输入-输出 Jacobian 矩阵之间的夹角来研究对抗样本在模型间的可迁移性。为了证明该方法的相关性，我们进行了涉及成对模型联合训练的案例研究。这些案例研究在经验上证实了关于梯度夹角为何是 AdvX 可迁移性中基本量的理论直觉。此外，我们考虑了相同架构的两个模型之间 AdvX 可迁移性的不对称性，并根据模型间梯度范数的差异对其进行了解释。最后，我们提供了对现有训练设置的简单修改，以降低成对模型之间对抗样本的可迁移性。
引用
@article{arxiv.1904.07980,
title = {Reducing Adversarial Example Transferability Using Gradient Regularization},
author = {George Adam and Petr Smirnov and Benjamin Haibe-Kains and Anna Goldenberg},
journal= {arXiv preprint arXiv:1904.07980},
year = {2019}
}