通过 Dual-MCMC Teaching 学习基于能量的模型

本文研究基于能量的模型 (Energy-based Model, EBM) 的基本学习问题。学习 EBM 可以使用最大似然估计 (Maximum Likelihood Estimation, MLE) 来实现，这通常涉及马尔可夫链蒙特卡洛 (Markov Chain Monte Carlo, MCMC) 采样，例如 Langevin 动力学。然而，噪声初始化的 Langevin 动力学在实践中可能具有挑战性且难以混合。这促使了与生成器模型联合训练的探索，其中生成器模型作为绕过 MCMC 采样的补充模型。然而，这种方法的准确性可能不如 MCMC，并导致有偏的 EBM 学习。虽然生成器也可以作为更好的 MCMC 采样的初始化模型，但其学习可能存在偏差，因为它仅匹配 EBM 而无法访问经验训练样本。这种有偏的生成器学习可能会限制学习 EBM 的潜力。为了解决这个问题，我们提出了一个联合学习框架，将 EBM 和补充生成器模型的最大似然学习算法交织在一起。特别是，生成器模型通过 MLE 学习以匹配 EBM 和经验数据分布，使其成为 EBM 的 MCMC 采样的信息量更大的初始化器。使用观测样本学习生成器通常需要推断生成器后验。为了确保准确有效的推断，我们采用 MCMC 后验采样并引入补充推断模型来初始化这种潜变量 MCMC 采样。我们表明，三个独立的模型可以通过两次（双重）MCMC teaching 无缝集成到我们的联合框架中，从而实现有效且高效的 EBM 学习。