模式识别中鲁棒对抗训练综述：基础、理论与方法
计算机视觉与模式识别
2022-03-29 v1 机器学习
摘要
在过去几十年中，深度神经网络在机器学习、计算机视觉和模式识别中取得了显著成功。然而，近期研究表明，神经网络（无论浅层还是深层）可能轻易被某些难以察觉的扰动输入样本（称为对抗样本）所欺骗。由于神经网络广泛应用可能引入现实威胁，这一安全漏洞近年来引发了大量研究。为应对模式识别中对抗样本的鲁棒性问题，鲁棒对抗训练已成为主流之一。该领域涌现出各种思想、方法和应用。然而，对对抗训练（包括其特征、解释、理论及不同模型间联系）的深入理解仍显不足。本文提出一项全面综述，试图对模式识别中的鲁棒对抗训练进行系统且结构化的研究。我们从对抗样本的定义、符号与性质等基础内容入手，随后介绍防御对抗样本的统一理论框架——鲁棒对抗训练，并通过可视化与解释说明对抗训练为何能带来模型鲁棒性。还将建立对抗训练与其他传统学习理论之间的联系。此后，我们以结构化方式总结、回顾并讨论各类带有对抗攻击与防御/训练算法的方法。最后，给出对抗训练的分析、展望与评述。
引用
@article{arxiv.2203.14046,
title = {A Survey of Robust Adversarial Training in Pattern Recognition: Fundamental, Theory, and Methodologies},
author = {Zhuang Qian and Kaizhu Huang and Qiu-Feng Wang and Xu-Yao Zhang},
journal= {arXiv preprint arXiv:2203.14046},
year = {2022}
}