离散扩散抽样器与桥梁：离策略算法及其在潜空间中的应用

从称为 $p(x) \propto e^{-\mathcal{E}(x)}$ 的分布进行抽样（已知归一化常数）是统计学中的一个重要且具有挑战性的问题。近年来，一种称为扩散抽样器的 amortised 抽样算法家族涌现，能够高效地从未归一化的密度进行抽样。此类算法在连续空间抽样任务中得到了广泛研究；然而，其在离散空间中的应用仍然基本未被探索。尽管已有一些进展，但离散扩散抽样器未能充分利用连续空间抽样中常用的方法。在本文中，我们通过引入离策略训练技术来弥合这一差距，从而提出离散扩散抽样器。我们展示，这些技术在两个方面改善了离散抽样器的性能：既是在既有基准测试上，也是在新的合成基准测试上。随后，我们将离散扩散抽样器推广到在两个任意分布之间进行桥接的任务，首次引入数据到能量的薛定谔桥训练用于离散域。最后，我们展示了所提出的扩散抽样器可用于数据自由地在图像生成模型离散潜空间中的后验抽样。