分布外训练赋予深度神经网络鲁棒性
机器学习
2018-03-02 v3 机器学习
摘要
深度神经网络中对抗样本可被轻易生成，这引发了关于其运作机制的根本疑问，并引起对其在关键系统中使用的担忧。本文中，我们建立了过度泛化与对抗样本之间的联系：对抗样本的一个可能成因在于模型被设计于在整个输入空间上做决策，导致在训练集中未表示的输入空间区域做出不当的高置信度决策。我们经验性地展示了一个未经任何对抗样本训练的增广神经网络，可通过检测黑盒单步对抗样本（即等同于分布外样本）并使白盒单步对抗样本的生成更困难，从而提升鲁棒性。
引用
@article{arxiv.1802.07124,
title = {Out-distribution training confers robustness to deep neural networks},
author = {Mahdieh Abbasi and Christian Gagné},
journal= {arXiv preprint arXiv:1802.07124},
year = {2018}
}