受限玻尔兹曼机的性质与贝叶斯拟合
机器学习
2019-09-12 v3 机器学习
摘要
受限玻尔兹曼机（RBM）是为离散或连续随机变量构建的无向图模型，具有隐藏层和可见层两层，且层内无条件依赖关系。近年来，由于与深度学习的联系，RBM 备受关注。通过将一个 RBM 的隐藏层视为第二个 RBM 的可见层，可以构建深度架构。人们认为 RBM 由此能够在数据中编码非常复杂且丰富的结构，使其在监督学习中颇具吸引力。然而，RBM 的生成行为在很大程度上尚未被探索，且典型的拟合方法除了点估计外，不易进行不确定性量化。本文讨论了二值情形下 RBM 参数设定与模型性质（如退化性、不稳定性和不可解释性）之间的关系。我们还描述了基于似然的推断可能引发的关联困难，并进一步探讨了此类（高度灵活）模型的潜在贝叶斯拟合，特别是鉴于 Gibbs 采样（准贝叶斯）方法常被推荐用于 RBM 模型结构。
引用
@article{arxiv.1612.01158,
title = {Properties and Bayesian fitting of restricted Boltzmann machines},
author = {Andee Kaplan and Daniel Nordman and Stephen Vardeman},
journal= {arXiv preprint arXiv:1612.01158},
year = {2019}
}
备注
20 pages, 13 figures