深度信念网络中的稀疏惩罚：使用混合范数约束
神经与进化计算
2013-02-25 v2 机器学习
机器学习
摘要
深度信念网络（DBN）已成功应用于流行的机器学习任务。具体而言，在应用于手写数字识别时，DBN 取得了约 98.8% 的准确率。为了优化 DBN 实现的数据表示并最大化其描述能力，近期的进展集中在 DBN 的每一层引入稀疏约束。在本文中，我们提出了一种在 DBN 中使用混合范数对非重叠组和重叠组进行稀疏约束的理论方法。我们探讨了这些约束如何影响三个不同数据集（MNIST、USPS、RIMES）中数字识别的分类准确率，并通过改变组大小和重叠百分比等不同参数，对其有用性进行了初步估计。
引用
@article{arxiv.1301.3533,
title = {Sparse Penalty in Deep Belief Networks: Using the Mixed Norm Constraint},
author = {Xanadu Halkias and Sebastien Paris and Herve Glotin},
journal= {arXiv preprint arXiv:1301.3533},
year = {2013}
}
备注
8 pages, 7 figures (including subfigures), ICleaR conference