面向多层生成器的联合潜空间EBM先验模型学习
计算机视觉与模式识别
2023-10-13 v2 机器学习
摘要
本文研究多层生成器模型学习的基本问题。多层生成器模型在生成器之上构建多层潜变量作为先验模型，有利于学习复杂数据分布与层次化表示。然而，此类先验模型通常通过在假设非信息性（条件）高斯分布下建模潜变量层间关系，在模型表达能力上受限。为解决该问题并学习更具表达力的先验模型，我们提出在所有层潜变量的联合潜空间上以多层生成器为骨干构建能量基模型（EBM）。该联合潜空间EBM先验模型通过逐层能量项捕获各层内的层内上下文关系，并跨不同层联合修正潜变量。我们开发了基于最大似然估计（MLE）的联合训练方案，涉及对不同层潜变量先验与后验分布的马尔可夫链蒙特卡洛（MCMC）采样。为保障高效推断与学习，我们进一步提出变分训练方案，利用推断模型分摊昂贵的后验MCMC采样。实验表明，所学模型在生成高质量图像及捕获层次化特征以改进离群检测方面具有表达力。
引用
@article{arxiv.2306.06323,
title = {Learning Joint Latent Space EBM Prior Model for Multi-layer Generator},
author = {Jiali Cui and Ying Nian Wu and Tian Han},
journal= {arXiv preprint arXiv:2306.06323},
year = {2023}
}