对抗环境下的神经网络与病态条件权重空间
机器学习
2018-01-04 v1 计算机视觉与模式识别
机器学习
摘要
近来，神经网络因其在各种任务上提供高精度的能力而得到大量采用。另一方面，对抗样本的存在引发了人们对神经网络泛化能力的怀疑。在这项工作中，我们关注神经网络学习到的权重矩阵，并假设病态条件权重矩阵是神经网络易受对抗样本攻击的影响因素之一。为确保学习到的权重矩阵的条件数保持足够低，我们建议使用正交正则化器。我们表明这确实有助于在 MNIST 和 F-MNIST 数据集上提高对抗精度。
引用
@article{arxiv.1801.00905,
title = {Neural Networks in Adversarial Setting and Ill-Conditioned Weight Space},
author = {Mayank Singh and Abhishek Sinha and Balaji Krishnamurthy},
journal= {arXiv preprint arXiv:1801.00905},
year = {2018}
}