用得分匹配目标训练基于能量的归一化流

本文中，我们建立了基于流的生成模型与基于能量的生成模型参数化之间的联系，并提出了一种称为基于能量的归一化流 (EBFlow) 的新的基于流的建模方法。我们证明，通过以得分匹配目标优化 EBFlow，可完全绕过线性变换的雅可比行列式计算。这一特性使得在构建基于流的模型时可使用任意线性层，而无需将每次训练迭代的计算时间复杂度从接受 $D$ 维输入的 $L$ 层模型的 $O(D^2L)$ 增至 $O(D^3L)$。这使得 EBFlow 的训练比通常采用的最大似然训练方法更为高效。除运行时间缩减外，我们基于对所提得分匹配方法的分析开发的数项技术增强了 EBFlow 的训练稳定性与经验性能。实验结果表明，与最大似然估计相比，我们的方法实现了显著加速，同时在负对数似然 (NLL) 方面以明显优势超越先前方法。