从蒙特卡洛到拉斯维加斯：通过停止集改进受限玻尔兹曼机训练
机器学习
2018-05-31 v1 机器学习
摘要
我们提出了受限玻尔兹曼机(RBMs)的马尔可夫链蒙特卡洛(MCMC)估计量的拉斯维加斯变换。我们将该方法记为马尔可夫链拉斯维加斯(MCLV)。MCLV 以随机运行时间为代价提供统计保证。MCLV 使用由训练数据构建的停止集，并具有最大马尔可夫链步数 K(记为 MCLV-K)。我们给出了 RBM 的 MCLV-K 梯度估计量(LVS-K)，并探讨了 LVS-K 与对比散度(CD-K)之间的对应与差异；LVS-K 在 MNIST 数据集上训练 RBM 显著优于 CD-K，表明 MCLV 是学习生成模型中一个有前景的方向。
引用
@article{arxiv.1711.08442,
title = {From Monte Carlo to Las Vegas: Improving Restricted Boltzmann Machine Training Through Stopping Sets},
author = {Pedro H. P. Savarese and Mayank Kakodkar and Bruno Ribeiro},
journal= {arXiv preprint arXiv:1711.08442},
year = {2018}
}
备注
AAAI2018, 10 Pages