面向自动增强策略的在线超参数学习
计算机视觉与模式识别
2019-08-15 v2
摘要
数据增强对现代深度学习技术的成功至关重要。在本文中，我们提出面向自动增强的在线超参数学习 (OHL-Auto-Aug)，一种在训练网络的同时学习增强策略分布的经济方案。与以往以离线方式搜索增强策略的自动增强方法不同，我们的方法将增强策略表述为参数化概率分布，从而允许其参数与网络参数联合优化。我们提出的 OHL-Auto-Aug 消除了重新训练的需要，并大幅降低了整体搜索过程的成本，同时相较基线模型取得了显著的精度提升。在 CIFAR-10 与 ImageNet 上，我们的方法在搜索精度上表现优异，在 CIFAR-10 上快 60 倍、在 ImageNet 上快 24 倍，同时保持了具有竞争力的精度。
引用
@article{arxiv.1905.07373,
title = {Online Hyper-parameter Learning for Auto-Augmentation Strategy},
author = {Chen Lin and Minghao Guo and Chuming Li and Yuan Xin and Wei Wu and Dahua Lin and Wanli Ouyang and Junjie Yan},
journal= {arXiv preprint arXiv:1905.07373},
year = {2019}
}