层次化逆问题中 Gibbs 采样器的分析

应用中出现的许多逆问题源于未知参数为场的连续模型。在实践中，未知场被离散化，从而导致 $\mathbb{R}^N$ 中的问题，且通常认为细化离散化（即增加 $N$）是可取的。在贝叶斯反演的背景下，这种情况凸显了两个问题的重要性：(i) 以使得超参数在连续极限 $N \to \infty$ 下具有可解释性，并且其值可在不同离散化水平之间进行比较的方式定义超参数；(ii) 理解探测后验分布的算法效率作为大 $N$ 函数的表现。在此，我们在层次化建模框架下针对线性逆问题探讨这两个问题，该框架假设未知场服从高斯先验，而超参数（即先验方差的幅度）服从逆伽马先验，且受加性高斯噪声影响。模型的结构使得 Gibbs 采样器易于实现以探测后验分布。秉承在有限维实现之前应先进行无限维思考的理念，我们提供了函数空间直觉并给出了严格理论，表明随着 $N$ 的增加，Gibbs 采样器中用于采样先验方差幅度的分量变得越来越慢。我们讨论了一种对先验方差的重参数化方法，该方法对维度增加具有鲁棒性；我们提供的数值实验表明，我们的重参数化防止了速度减慢。关于我们对先验超参数行为（无论是否重参数化）的直觉具有足够的普遍性，可涵盖各类非线性逆问题以及其他超先验族。