利用块高斯增强在不牺牲准确率的前提下提升鲁棒性
机器学习
2019-06-07 v1 计算机视觉与模式识别
机器学习
摘要
在真实世界中部署机器学习系统需要同时在干净数据上具备高准确率以及对自然出现的 corruptions 的鲁棒性。尽管架构上的进展提升了准确率，构建鲁棒模型仍然具有挑战性。先前的工作认为鲁棒性与准确率之间存在固有的权衡，这由标准数据增强技术所例证，如 Cutout 提升干净准确率但不提升鲁棒性，以及加性高斯噪声提升鲁棒性但损害准确率。为克服这一权衡，我们引入 Patch Gaussian，一种向输入图像中随机选取的块添加噪声的简单增强方案。使用 Patch Gaussian 训练的模型在 CIFAR-10 和 ImageNetCommon Corruptions 基准上达到 state of the art，同时也提升了干净数据上的准确率。我们发现该增强降低了对高频噪声的敏感性（类似于高斯），同时保留了利用图像中相关高频信息的能力（类似于 Cutout）。最后，我们展示 Patch Gaussian 可与其他正则化方法和数据增强策略（如 AutoAugment）结合使用，并提升了 COCO 目标检测基准上的性能。
引用
@article{arxiv.1906.02611,
title = {Improving Robustness Without Sacrificing Accuracy with Patch Gaussian Augmentation},
author = {Raphael Gontijo Lopes and Dong Yin and Ben Poole and Justin Gilmer and Ekin D. Cubuk},
journal= {arXiv preprint arXiv:1906.02611},
year = {2019}
}