变分势流：面向能量基模型的新型概率框架
机器学习
2024-07-23 v1 人工智能
神经与进化计算
摘要
能量基模型因其通用性和数据似然建模的简单性而富有吸引力，但传统上因对比性散度训练中隐式MCMC抽样不稳定且耗时而难以训练。本文提出一种新型能量基生成框架，变分势流（VAPO），完全摆脱隐式MCMC抽样，不依赖补充潜在模型或协同训练。VAPO框架旨在学习一种势能函数，其梯度（流）指引先验样本，使其密度演化紧随近似数据似然的同调。随后构建能量损失函数，以最小化由流动驱动的先验密度演化与数据似然同调之间的KL散度。训练后，可从高斯先验初始化样本，通过求解势流在固定时间间隔内的常数ODE，使用通用ODE求解器生成图像。实验结果表明，所提出的VAPO框架能够在 various image datasets 上生成逼真的图像。特别是，我们的方法在CIFAR-10和CelebA数据集上实现了具竞争力的FID分数，用于无条件图像生成。
引用
@article{arxiv.2407.15238,
title = {Variational Potential Flow: A Novel Probabilistic Framework for Energy-Based Generative Modelling},
author = {Junn Yong Loo and Michelle Adeline and Arghya Pal and Vishnu Monn Baskaran and Chee-Ming Ting and Raphael C. -W. Phan},
journal= {arXiv preprint arXiv:2407.15238},
year = {2024}
}