受限玻尔兹曼机学习中的平衡与非平衡 regime

长期以来，由于精确计算对数似然梯度的困难，训练受限玻尔兹曼机（RBMs）一直具有挑战性。过去几十年中，许多工作提出了或多或少成功的训练方案，却未研究该问题的关键量：混合时间，即从模型中采样新配置所需的蒙特卡洛迭代次数。本工作中，我们表明该混合时间在所学模型的动力学与稳定性中起着关键作用，且 RBMs 依据模型混合时间与用于近似梯度的步数 $k$ 之间的相互作用，运行于两个明确界定的 regime 中，即平衡与脱离平衡。我们进一步通过经验表明，该混合时间随学习而增加，这常意味着一旦 $k$ 小于该时间便发生从一个 regime 到另一个的过渡。特别地，我们表明使用流行的 $k$（持久）对比散度方法且 $k$ 较小时，所学模型的动力学极慢且常由强烈的脱离平衡效应主导。相反，平衡训练的 RBMs 显示更快的动力学，以及在采样过程中向类数据集配置的平滑收敛。最后我们讨论如何依所旨在完成的任务在实践中利用两种 regime：（i）短 $k$ 可用于在短学习时间内生成令人信服的样本，（ii）需要大 $k$（或递增大）以学习 RBM 的正确平衡分布。最后，这两个运行 regime 的存在似乎是经由似然最大化训练的能量基模型的普遍性质。