学习深度稀疏图模型的结构
机器学习
2010-08-20 v2
摘要
深度信念网络是建模复杂概率分布的一种强大方法。然而，学习信念网络（尤其是带有隐藏单元的网络）的结构是困难的。印度自助餐过程已被用作具有单个无限宽隐藏层的信念网络有向结构的非参数贝叶斯先验。在本文中，我们引入了级联印度自助餐过程（CIBP），它为深度和宽度均无界的分层有向信念网络的结构提供了一个非参数先验，同时允许可处理的推理。我们将CIBP先验与非线性高斯信念网络结合使用，使得每个单元还可以在离散表示和连续表示之间改变其行为。我们提供了用于这些信念网络推理的马尔可夫链蒙特卡洛算法，并探索了在几个图像数据集上学到的结构。
引用
@article{arxiv.1001.0160,
title = {Learning the Structure of Deep Sparse Graphical Models},
author = {Ryan Prescott Adams and Hanna M. Wallach and Zoubin Ghahramani},
journal= {arXiv preprint arXiv:1001.0160},
year = {2010}
}
备注
20 pages, 6 figures, AISTATS 2010, Revised