深度信念网络的核与子模型
机器学习
2012-11-06 v1
摘要
我们研究了表示为随机分层网络中可见边缘分布的因子化概率分布混合。我们从分布的核变换视角出发，提供了由深度信念网络 (DBN) 及其他无横向连接网络产生的分布式表示的统一图景。我们描述了随着网络参数变化，DBN 可实现的核集合及其乘积的组合与几何性质。我们描述了包括指数族在内的可由 DBN 学习的明确概率分布类。我们利用这些子模型，根据 DBN 包含的隐藏层数和单元数，从上方限制了其最大和期望 Kullback-Leibler 近似误差。
引用
@article{arxiv.1211.0932,
title = {Kernels and Submodels of Deep Belief Networks},
author = {Guido F. Montufar and Jason Morton},
journal= {arXiv preprint arXiv:1211.0932},
year = {2012}
}
备注
13 pages, 4 figures, deep learning and unsupervised feature learning nips workshop 2012