非负约束自编码器的深度学习以增强数据理解
机器学习
2018-12-27 v3
摘要
无监督特征提取器已知能够对数据进行高效且具有判别性的表示。然而，对其所执行映射的洞察以及人类理解它们的能力仍然非常有限。当使用多层深度学习架构时这一点尤为突出。本文展示了如何在非负约束自编码器（NCSAE）的架构内消除这些瓶颈。结果表明，通过使用诱导权重非负性的L1和L2正则化，网络中大多数权重被约束为非负，从而产生更易于理解的结构，且分类精度仅有微小下降。此外，该提出的方法提取出更稀疏的特征，并产生额外的输出层稀疏化。该方法在MNIST数据、NORB归一化均匀物体数据和路透社文本分类数据集上针对准确率和特征可解释性进行了分析。
引用
@article{arxiv.1802.00003,
title = {Deep Learning of Nonnegativity-Constrained Autoencoders for Enhanced Understanding of Data},
author = {Babajide O. Ayinde and Jacek M. Zurada},
journal= {arXiv preprint arXiv:1802.00003},
year = {2018}
}
备注
IEEE Trans. on Neural Networks and Learning Systems, September 2018, Vol. 29, Issue 9, Pg. 3969 - 3979