中文

RandAugment:具有缩减搜索空间的实用自动化数据增强

计算机视觉与模式识别 2019-11-15 v2

摘要

近期工作表明,数据增强有潜力显著改善深度学习模型的泛化能力。近来,自动化增强策略在图像分类与物体检测中取得了最优结果。尽管这些策略为提升验证准确率而优化,它们也在半监督学习中取得了最优结果,并提升了对图像常见扰动的鲁棒性。这些方法大规模应用的一个障碍是独立的搜索阶段,它增加了训练复杂度并可能大幅提高计算成本。此外,由于独立的搜索阶段,这些方法无法根据模型或数据集大小调整正则化强度。自动化增强策略常通过在小数据集上训练小模型来寻找,随后应用于训练更大的模型。在本工作中,我们消除了这两重障碍。RandAugment 具有显著缩减的搜索空间,使其可在目标任务上训练而无需单独的代理任务。进一步,由于参数化形式,正则化强度可针对不同的模型与数据集大小定制。RandAugment 可统一用于不同任务与数据集,且开箱即用,在 CIFAR-10/100、SVHN 与 ImageNet 上匹配或超越了所有先前的自动化增强方法。在 ImageNet 数据集上我们取得了 85.0% 准确率,比先前最优提高 0.6%,比基线增强提高 1.0%。在物体检测上,RandAugment 较基线增强带来 1.0-1.3% 的提升,并在 COCO 上以 0.3% mAP 之差逼近 AutoAugment。最后,由于其可解释的超参数,RandAugment 可用于研究随模型与数据集大小变化的数据增强作用。代码已在线提供。

关键词

引用

@article{arxiv.1909.13719,
  title  = {RandAugment: Practical automated data augmentation with a reduced search space},
  author = {Ekin D. Cubuk and Barret Zoph and Jonathon Shlens and Quoc V. Le},
  journal= {arXiv preprint arXiv:1909.13719},
  year   = {2019}
}

备注

Added ablation experiments