离散 Langevin 启发的后验采样
机器学习
2026-05-12 v1 计算机视觉与模式识别
摘要
我们研究针对离散状态空间中的逆问题进行后验采样,使用离散扩散模型作为生成先验。虽然连续扩散模型在逆问题中广泛应用,但其离散对手仍相对不被探索。现有的离散后验采样器常依赖于离散变量的连续松弛、Gibbs 式更新或针对特定损坏过程的专用机制,这可能限制其可扩展性或通用性。我们提出 LPS,一种离散 Langevin 启发的后验采样器,使用梯度信息识别有前景的离散移动,而无需离开离散状态空间。 resulting approach enables efficient parallel updates across all token dimensions and is agnostic to the training paradigm of the discrete diffusion prior, including masked and uniform-state diffusion. 我们在 MNIST、CIFAR 和 FFHQ 上的图像修复任务中评估了该方法,涵盖线性、非线性和盲目逆问题。在这些设置下,我们超过了最近的离散扩散后验采样器,并与强大的连续扩散逆问题求解器保持竞争力。我们的结果表明,完全离散、梯度信息化的后验采样器为解决离散表示上的逆问题提供了可扩展且通用的路径。
关键词
引用
@article{arxiv.2605.09302,
title = {Discrete Langevin-Inspired Posterior Sampling},
author = {Chaitanya Amballa and Sattwik Basu and Jorge Vančo Sampedro and Romit Roy Choudhury},
journal= {arXiv preprint arXiv:2605.09302},
year = {2026}
}