深度神经网络对抗鲁棒性理解的最新进展
机器学习
2020-11-04 v1 计算机视觉与模式识别
摘要
在深度神经网络（DNN）广泛应用的过程中，对抗样本不可避免。施加于自然样本上的不可感知扰动可导致基于 DNN 的分类器以较高的置信度输出错误预测。获得具有高鲁棒性、能抵抗对抗样本的模型愈发重要。本文综述了如何从不同的视角理解这一引人入胜的性质即对抗鲁棒性的最新进展。我们给出了对抗攻击与鲁棒性的初步定义。此后，我们研究了常用的基准，并提及了经理论证明的对抗鲁棒性界。接着，我们概述了分析对抗鲁棒性与 DNN 模型其他关键指标之间相关性的工作。最后，我们介绍了近期关于对抗训练潜在代价（已引起研究界广泛关注）的争论。
引用
@article{arxiv.2011.01539,
title = {Recent Advances in Understanding Adversarial Robustness of Deep Neural Networks},
author = {Tao Bai and Jinqi Luo and Jun Zhao},
journal= {arXiv preprint arXiv:2011.01539},
year = {2020}
}
备注
Initial Draft