深度去噪自编码器的渐进式训练
机器学习
2014-12-22 v1 神经与进化计算
摘要
堆叠去噪自编码器 (DAEs) 众所周知能够学习有用的深层表示，这些表示可用于通过初始化深度网络来改进监督训练。我们研究了一种深度 DAE 的训练方案，其中 DAE 层被逐渐添加，并在添加额外层时持续适应。我们表明，在中等规模数据集的情况下，这种渐进式训练在 MNIST 和 CIFAR 数据集上，相较于堆叠训练，在重建质量和分类误差方面均能提供微小但一致的改进。
引用
@article{arxiv.1412.6257,
title = {Gradual training of deep denoising auto encoders},
author = {Alexander Kalmanovich and Gal Chechik},
journal= {arXiv preprint arXiv:1412.6257},
year = {2014}
}