重温Lmser及其基于卷积层的进一步发展
机器学习
2019-04-15 v1 机器学习
摘要
Least Mean Square Error Reconstruction(最小均方误差重构)自组织网络，简称Lmser，于1991年提出，是传统自编码器(AE)的进一步发展，其通过关于中心编码层折叠架构，从而产生对称权重与神经元以及联合监督与无监督学习的特征。然而，由于当时缺乏计算资源与大数据，其优势仅在一隐藏层实现中得到展示。在本文中，我们从深度学习视角重温Lmser，开发了基于多个卷积层的Lmser网络，其更适用于图像相关任务，并通过在图像识别、重构、联想回忆等方面的初步演示确认了若干Lmser功能。实验表明，Lmser确实如原论文所示工作，并且在各种应用中具有有前景的性能。
引用
@article{arxiv.1904.06307,
title = {Revisit Lmser and its further development based on convolutional layers},
author = {Wenjing Huang and Shikui Tu and Lei Xu},
journal= {arXiv preprint arXiv:1904.06307},
year = {2019}
}