一种用于深度学习模型训练的贝叶斯数据增强方法
计算机视觉与模式识别
2017-10-31 v1 机器学习
摘要
数据增强是应用于深度学习模型训练过程的重要环节。其动机在于，深度学习模型的鲁棒训练依赖于大规模标注数据集，而此类数据集的获取、存储与处理成本高昂。因此一个合理的替代方案是能够通过称为数据增强的过程自动生成新的标注训练样本。该领域主流的数据增强方法假设新训练样本可通过对标注训练样本施加随机几何或表观变换获得，但这是一个强假设，因为尚不清楚这是否为生成新训练样本的可靠生成模型。本文给出一种新颖的贝叶斯数据增强公式，其中新的标注训练点被视为缺失变量并基于从训练集学到的分布生成。为进行学习，我们引入一种理论可靠的算法——广义蒙特卡洛期望最大化，并通过扩展生成对抗网络（GAN）展示一种可能的实现。在 MNIST、CIFAR-10 与 CIFAR-100 上的分类结果表明，相较上述当前主流数据增强方法，我们提出的方法性能更优——结果还显示我们的方法比同类 GAN 模型取得更好的分类结果。
引用
@article{arxiv.1710.10564,
title = {A Bayesian Data Augmentation Approach for Learning Deep Models},
author = {Toan Tran and Trung Pham and Gustavo Carneiro and Lyle Palmer and Ian Reid},
journal= {arXiv preprint arXiv:1710.10564},
year = {2017}
}
备注
Accepted to NISP 2017