基于BANG的鲁棒深度神经网络
计算机视觉与模式识别
2018-02-01 v3
摘要
机器学习模型，包括最先进的深度神经网络，易受导致意外分类错误的小扰动影响。这种意外的鲁棒性缺失引发了关于其泛化性质的根本问题，并对实际部署构成严重关切。由于此类扰动可能保持难以察觉——所形成的对抗样本展示了脆弱机器学习模型与人类感知之间的内在不一致——一些先前工作将这一问题视为安全问题。尽管已发现的不稳定性及后续研究具有重要意义，但其原因尚不清楚，且尚未开发出有效方法来解决该问题。本文中，我们提出一种新颖理论来解释为何这种不良现象存在于深度神经网络中。基于该理论，我们引入一种简单、高效且有效的训练方法，即批量调整网络梯度（BANG），其显著提升了机器学习模型的鲁棒性。虽然BANG技术不依赖于任何形式的数据增强或利用对抗图像进行训练，但所得分类器对对抗扰动更具抵抗力，同时保持甚至增强了整体分类性能。
引用
@article{arxiv.1612.00138,
title = {Towards Robust Deep Neural Networks with BANG},
author = {Andras Rozsa and Manuel Gunther and Terrance E. Boult},
journal= {arXiv preprint arXiv:1612.00138},
year = {2018}
}
备注
Accepted to the IEEE Winter Conference on Applications of Computer Vision (WACV), 2018