评估 RBM 的基于采样估计量的实证分析

Vidyadhar Upadhya; P. S. Sastry

评估 RBM 的基于采样估计量的实证分析

机器学习 2015-10-09 v1 机器学习

作者: Vidyadhar Upadhya , P. S. Sastry

摘要

受限玻尔兹曼机（RBM）既可用作分类器，也可用作生成模型。生成式 RBM 的质量通过测试数据上的平均对数似然来衡量。由于评估配分函数的计算复杂度极高，测试对数似然的精确计算十分困难。近年来提出了一些估计方法用于近似计算测试对数似然。本文中，我们对主要估计方法进行了经验比较，即用于估计配分函数的 AIS 算法、直接估计对数似然的 CSL 方法，以及结合了这两类思想的 RAISE 算法。我们使用 MNIST 数据集学习 RBM，进而比较这些估计测试对数似然的方法。

关键词

受限玻尔兹曼机基于采样的估计量对数似然配分函数 AIS 算法 CSL 方法 RAISE 算法

引用

@article{arxiv.1510.02255,
  title  = {Empirical Analysis of Sampling Based Estimators for Evaluating RBMs},
  author = {Vidyadhar Upadhya and P. S. Sastry},
  journal= {arXiv preprint arXiv:1510.02255},
  year   = {2015}
}

备注

edited version of this manuscript will appear in proceedings of International Conference on Neural Information Processing (ICONIP) 2015

评估 RBM 的基于采样估计量的实证分析

摘要

关键词

引用

备注

相关论文