概率类别对抗攻击与对抗训练
机器学习
2023-11-08 v3 密码学与安全
摘要
对抗样本的存在给人们在安全关键任务中应用深度神经网络(DNNs)带来了巨大担忧。然而,如何生成类别数据的对抗样本是一个重要问题但缺乏广泛探索。先前建立的方法利用贪婪搜索方法,其成功实施攻击可能非常耗时。这也限制了类别数据对抗训练及潜在防御的发展。为解决此问题,我们提出概率类别对抗攻击(PCAA),其将离散优化问题转化为可由投影梯度下降高效求解的连续问题。在本文中,我们从理论上分析其最优性与时间复杂度,以展示其相对于当前基于贪婪的攻击的显著优势。此外,基于我们的攻击,我们提出了一个高效的对抗训练框架。通过全面的实证研究,我们验证了所提攻击与防御算法的有效性。
引用
@article{arxiv.2210.09364,
title = {Probabilistic Categorical Adversarial Attack & Adversarial Training},
author = {Han Xu and Pengfei He and Jie Ren and Yuxuan Wan and Zitao Liu and Hui Liu and Jiliang Tang},
journal= {arXiv preprint arXiv:2210.09364},
year = {2023}
}