通过倾斜运输实现后验采样：基于去噪 oracle
机器学习
2024-07-02 v1 概率论
统计计算
机器学习
摘要
得分基 diffusion 模型已显著推动了高维数据生成在各个领域的进展，方法是通过数据集学习去噪 oracle（或得分）。从贝叶斯视角看，它们对数据先验提供了真实的建模，并通过后验采样促进了解决逆问题。尽管最近开发了许多用于此目的的启发式方法，但它们缺乏许多科学应用所需的定量保证。本文引入了“倾斜运输”技术，该技术利用线性逆问题中对数似然的二次结构，结合先验去噪 oracle，将原有的后验采样问题转化为一个在可被证明更易采样的“提升后验”。我们量化了提升后验强对数凹的条件，突出了测量矩阵条件数和信噪比之间的依赖关系。结果表明，该后验采样方案可达到对 Ising 模型采样[Kunisky'23]预测的计算阈值，经直接分析，并在高维高斯混合模型和标量场 模型上进一步验证。
引用
@article{arxiv.2407.00745,
title = {Posterior Sampling with Denoising Oracles via Tilted Transport},
author = {Joan Bruna and Jiequn Han},
journal= {arXiv preprint arXiv:2407.00745},
year = {2024}
}