对抗样本:深度学习的攻击与防御
机器学习
2018-07-10 v3 密码学与安全
计算机视觉与模式识别
机器学习
摘要
随着在广泛应用中的快速进展与显著成功,深度学习正被应用于许多安全关键环境。然而,深度神经网络最近被发现易受精心设计的输入样本(称为对抗样本)的攻击。对抗样本对人而言难以察觉,却能在测试/部署阶段轻易欺骗深度神经网络。对对抗样本的脆弱性成为在安全关键环境中应用深度神经网络的主要风险之一。因此,针对对抗样本的攻击与防御引起了极大关注。本文综述了关于深度神经网络对抗样本的最新发现,总结了生成对抗样本的方法,并提出了这些方法的分类法。在该分类法下,研究了对抗样本的应用。我们进一步阐述了针对对抗样本的应对策略,并探讨了挑战与潜在解决方案。
引用
@article{arxiv.1712.07107,
title = {Adversarial Examples: Attacks and Defenses for Deep Learning},
author = {Xiaoyong Yuan and Pan He and Qile Zhu and Xiaolin Li},
journal= {arXiv preprint arXiv:1712.07107},
year = {2018}
}
备注
Github: https://github.com/chbrian/awesome-adversarial-examples-dl