使用最坏情况变换的正则化足以提升准确率与空间鲁棒性
机器学习
2019-06-27 v1 计算机视觉与模式识别
机器学习
摘要
本工作提供理论和实证证据，表明诱导不变性的正则化方法可以提高对最坏情况空间变换的预测准确率（空间鲁棒性）。在这些对抗性变换样本上的评估表明，在标准训练或对抗训练之上添加正则化可将CIFAR10的相对误差降低20%，且不增加计算成本。这优于那些显式设计为空间等变的精心构造网络。此外，我们在已知具有固有方向方差的SVHN数据集上观察到，鲁棒训练也提高了测试集上的标准准确率。我们证明，在无限数据极限下，这种无权衡现象对于来自变换群的对抗样本成立。
引用
@article{arxiv.1906.11235,
title = {Invariance-inducing regularization using worst-case transformations suffices to boost accuracy and spatial robustness},
author = {Fanny Yang and Zuowen Wang and Christina Heinze-Deml},
journal= {arXiv preprint arXiv:1906.11235},
year = {2019}
}