理解对抗训练：通过鲁棒优化提升神经网络的局部稳定性
机器学习
2018-05-07 v3 机器学习
神经与进化计算
摘要
我们提出了一个利用鲁棒优化(RO)提升人工神经网络(ANNs)局部稳定性的通用框架。我们通过一种交替最小化-最大化过程实现这一点，其中网络的损失在每次参数更新时生成的扰动样本上被最小化。我们表明，ANNs的对抗训练实际上是网络优化的鲁棒化，且我们所提出的框架推广了先前提升ANNs局部稳定性的方法。实验结果表明，我们的方法增强了网络对已有对抗样本的鲁棒性，同时使生成新对抗样本更加困难。此外，我们的算法在原始测试数据上也提高了网络的准确率。
引用
@article{arxiv.1511.05432,
title = {Understanding Adversarial Training: Increasing Local Stability of Neural Nets through Robust Optimization},
author = {Uri Shaham and Yutaro Yamada and Sahand Negahban},
journal= {arXiv preprint arXiv:1511.05432},
year = {2018}
}