基于生成先验的后验抽样通过 Langevin 动力学
机器学习
2024-10-04 v1 计算机视觉与模式识别
机器学习
摘要
在高维空间中使用生成模型进行后验抽样在诸多应用中具有重要前景，包括但不限于逆问题和引导生成任务。尽管近期有许多发展，但生成多样化后验样本仍是一个挑战，因为现有方法需要为每个新样本重新启动整个生成过程，这使得该过程计算成本高昂。在本工作中，我们提出了通过模拟预训练生成模型中噪声空间的 Langevin 动力学来实现高效后验抽样。通过利用噪声空间与数据空间之间的映射，这种映射可由蒸馏流或一致性模型提供，从而使我们能够在无需重新运行完整抽样链的情况下无缝探索后验，大大降低了计算开销。理论上，我们在假设生成模型足够逼近先验分布的前提下，为所提出的噪声空间 Langevin 动力学提供了逼近后验的保证。我们的方法在 LSUN-Bedroom (256×256) 和 ImageNet (64×64) 数据集上应用于包含噪声线性和非线性前向算子的图像修复任务进行了实验验证。结果表明，我们的方法在有限的函数评估次数下生成高保真样本，语义多样性更佳，相较于现有扩散-based 后验抽样技术，在效率和性能方面具有优势。
引用
@article{arxiv.2410.02078,
title = {Posterior sampling via Langevin dynamics based on generative priors},
author = {Vishal Purohit and Matthew Repasky and Jianfeng Lu and Qiang Qiu and Yao Xie and Xiuyuan Cheng},
journal= {arXiv preprint arXiv:2410.02078},
year = {2024}
}