神经网络对抗鲁棒性的一项有用分类法
机器学习
2019-10-24 v1 密码学与安全
计算机视觉与模式识别
机器学习
摘要
对抗攻击与防御目前是深度学习界活跃的研究领域。一篇近期的综述论文将防御方法分为三类：梯度掩蔽、鲁棒优化与对抗样本检测。我们以不同方式划分梯度掩蔽与鲁棒优化：(1) 增大特征向量的类内紧致性与类间分离度可提升对抗鲁棒性；(2) 对非鲁棒图像特征进行边缘化或移除同样可提升对抗鲁棒性。通过以不同方式重构这些主题，我们提供了一种新颖视角，可洞察使训练更鲁棒网络成为可能的潜在因素，并有助于启发新方案。此外，文献中若干对抗防御论文声称对抗鲁棒性存在代价，或鲁棒性与准确率之间存在权衡，但在本提出的分类法下，我们假定这并非普遍成立。我们基于本文中的关联与洞察，针对深度学习研究界提出了若干紧随该分类法的挑战。
引用
@article{arxiv.1910.10679,
title = {A Useful Taxonomy for Adversarial Robustness of Neural Networks},
author = {Leslie N. Smith},
journal= {arXiv preprint arXiv:1910.10679},
year = {2019}
}
备注
NRL Technical Report