对抗边际最大化网络
机器学习
2019-11-15 v1 计算机视觉与模式识别
神经与进化计算
机器学习
摘要
深度神经网络（DNNs）近年来的巨大成功引发了人们对其预测能力的广泛兴趣。与能够鲁棒泛化且只需少量监督即可学习的人类视觉系统不同，DNNs 通常需要海量数据来学习新概念。此外，研究也表明 DNNs 易受对抗样本——即看似与自然图像感知相似但实为误导学习模型而生成的恶意图像——的攻击，这意味着模型在泛化到具有某类畸变的未知数据时有问题。本文全面分析了 DNNs 的泛化能力，并尝试从几何角度加以改进。我们提出对抗边际最大化（AMM），一种利用对抗扰动作为代理的基于学习的正则化方法。它鼓励在输入空间中具有大边际，正如支持向量机那样。通过对扰动的可微表述，我们以端到端方式简单地通过反向传播训练正则化后的 DNNs。在多个数据集（包括 MNIST、CIFAR-10/100、SVHN 和 ImageNet）及不同 DNN 架构上的实验结果证明了我们的方法优于先前的最先进方法。用于复现结果的代码与模型将公开提供。
引用
@article{arxiv.1911.05916,
title = {Adversarial Margin Maximization Networks},
author = {Ziang Yan and Yiwen Guo and Changshui Zhang},
journal= {arXiv preprint arXiv:1911.05916},
year = {2019}
}
备注
11 pages + 1 page appendix, accepted by T-PAMI