使用类 EM 方法学习 Boltzmann 机
机器学习
2016-09-08 v1 机器学习
摘要
我们提出了一种类期望最大化（EM-like）方法来训练具有无约束连接性的 Boltzmann 机。它在 E 步中采用 Monte Carlo 近似，并在 M 步中用高效计算的目标代替难以处理的似然目标，或直接近似似然目标的梯度。该类 EM 方法是交替最小化的一种修改。我们证明，如果该方法的 M 步采用特殊近似，则类 EM 方法在受限 Boltzmann 机中将与对比散度完全相同。我们还提出了一种新的度量来评估 Boltzmann 机作为数据生成模型的性能，其计算复杂度为 O(Rmn)。最后，我们通过数值实验展示了类 EM 方法的性能。
引用
@article{arxiv.1609.01840,
title = {Learning Boltzmann Machine with EM-like Method},
author = {Jinmeng Song and Chun Yuan},
journal= {arXiv preprint arXiv:1609.01840},
year = {2016}
}