基于共轭梯度法的多样化对抗攻击
机器学习
2022-07-21 v2 密码学与安全
计算机视觉与模式识别
摘要
深度学习模型易受对抗样本影响，而用于生成此类样本的对抗攻击已引起广泛的研究兴趣。尽管现有基于最速下降的方法已取得较高的攻击成功率，但病态问题偶尔会降低其性能。为解决这一局限，我们利用对这类问题有效的共轭梯度（CG）方法，提出了一种受CG方法启发的新型攻击算法，称为自动共轭梯度（ACG）攻击。在最新鲁棒模型上进行的大规模评估实验结果表明，对于大多数模型，ACG 能够比现有SOTA 算法自动PGD（APGD）以更少的迭代次数找到更多的对抗样本。我们从多样化和集约化的角度研究了 ACG 与 APGD 在搜索性能上的差异，并定义了一个称为多样性指数（DI）的度量来量化多样性程度。通过使用该指数对多样性进行分析，我们表明，所提方法更多样化的搜索显著提高了其攻击成功率。
引用
@article{arxiv.2206.09628,
title = {Diversified Adversarial Attacks based on Conjugate Gradient Method},
author = {Keiichiro Yamamura and Haruki Sato and Nariaki Tateiwa and Nozomi Hata and Toru Mitsutake and Issa Oe and Hiroki Ishikura and Katsuki Fujisawa},
journal= {arXiv preprint arXiv:2206.09628},
year = {2022}
}
备注
Proceedings of the 39th International Conference on Machine Learning (ICML 2022)