在潜空间中使用朗之万动力学的归一化流采样
机器学习
2023-05-23 v1 机器学习
摘要
归一化流（NF）使用连续生成器将简单的潜分布（如高斯分布）映射到与训练数据集相关的经验目标分布。通过在最小化变分目标下训练后，所学映射提供了目标分布的近似生成模型。由于标准 NF 实现可微映射，在面向复杂分布时可能遭受病态行为。例如，此类问题可能出现在多分量拓扑上的分布，或具有由极不可能区域分隔的高概率区的多峰分布中。一个典型症状是变换的雅可比范数在极低概率区域发生爆炸。本文提出通过一种新的马尔可夫链蒙特卡洛算法来解决此问题，该算法先在潜域中从目标分布采样，再将其传回目标域。该方法依赖于一种经 Metropolis 调整的朗之万算法（MALA），其动力学显式利用了变换的雅可比。与替代方法相反，所提策略保持了似然的可处理性，且不需要特定训练。值得注意的是，它可直接与任何预训练的 NF 网络配合使用，无论其架构如何。在合成和高维真实数据集上的实验说明了该方法的有效性。
引用
@article{arxiv.2305.12149,
title = {Normalizing flow sampling with Langevin dynamics in the latent space},
author = {Florentin Coeurdoux and Nicolas Dobigeon and Pierre Chainais},
journal= {arXiv preprint arXiv:2305.12149},
year = {2023}
}