用于集成特征提取的模块化自编码器
机器学习
2015-11-24 v1
摘要
我们引入模块化自编码器(Modular Autoencoder, MAE)的概念,其能够从无标签数据中学习一组多样但互补的表示,这些表示随后可用于监督任务。表示的习得由权衡参数控制,我们在六个基准数据集上展示最优解位于两个极端之间:一组较小的、独立的低容量自编码器,与单一整体编码相对,其性能优于恰当的基线。在本文中,我们探讨线性MAE的特例,并推导出基于SVD的算法,其收敛速度比梯度下降快几个数量级。
引用
@article{arxiv.1511.07340,
title = {Modular Autoencoders for Ensemble Feature Extraction},
author = {Henry W J Reeve and Gavin Brown},
journal= {arXiv preprint arXiv:1511.07340},
year = {2015}
}
备注
18 pages, 8 figures, to appear in a special issue of The Journal Of Machine Learning Research (vol.44, Dec 2015)