用于去噪自编码器的渐进式训练方法
机器学习
2015-04-14 v1 神经与进化计算
摘要
堆叠去噪自编码器(DAE)以学习有用的深度表示而闻名,可通过初始化深度网络来改进监督训练。我们研究了一种深度DAE的训练方案,其中DAE层逐渐添加并在添加额外层时持续适应。我们表明,在中等规模数据集范围内,这种渐进式训练在MNIST和CIFAR数据集上的重建质量和分类误差方面,相比堆叠训练提供小而一致的提升。
引用
@article{arxiv.1504.02902,
title = {Gradual Training Method for Denoising Auto Encoders},
author = {Alexander Kalmanovich and Gal Chechik},
journal= {arXiv preprint arXiv:1504.02902},
year = {2015}
}
备注
arXiv admin note: substantial text overlap with arXiv:1412.6257