基于修正线性自编码器的切换线性编码
机器学习
2013-01-22 v2
摘要
机器学习领域的近期若干结果已在自编码器(试图重现其输入的人工神经网络模型)与其他编码模型(如稀疏编码和K-means)之间建立了形式上的联系。本文深入探讨了一种在其隐藏单元上使用修正线性激活构建的自编码器模型。我们的分析建立在近期结果之上,以进一步统一稀疏线性编码模型领域。我们提供了对这些编码模型行为的直观解释,并使用具有已知分布的小型人工数据集验证了这一直觉。
引用
@article{arxiv.1301.3753,
title = {Switched linear encoding with rectified linear autoencoders},
author = {Leif Johnson and Craig Corcoran},
journal= {arXiv preprint arXiv:1301.3753},
year = {2013}
}