论人工数据集对深度学习的正则化性质
机器学习
2019-08-21 v1 机器学习
摘要
本文讨论了用于深度学习的人工数据的正则化性质。在真实数据匮乏的情况下，人工数据集可用于训练神经网络。研究表明，所述的人工数据生成过程——即对高层特征注入噪声——与现有的深度神经网络正则化方法具有若干相似之处。可将人工数据的这一性质视为一种“深度”正则化。因此，通过以特定方式生成训练数据，即可对网络的隐藏层进行正则化。
引用
@article{arxiv.1908.07005,
title = {On Regularization Properties of Artificial Datasets for Deep Learning},
author = {Karol Antczak},
journal= {arXiv preprint arXiv:1908.07005},
year = {2019}
}
备注
6 pages, 1 figure