重要性回火

模拟回火（ST）是一种成熟的马尔可夫链蒙特卡洛（MCMC）方法，用于从多峰密度 $\pi(\theta)$ 中抽样。通常，ST 涉及引入一个在 $[0,1]$ 的有限子集中取值的辅助变量 $k$，并对一组回火分布进行索引，设为 $\pi_k(\theta) \propto \pi(\theta)^k$。在这种情况下，较小的 $k$ 值有助于更好的混合，但只有当 $(\theta,k)$ 的联合链达到 $k=1$ 时，才能获得来自 $\pi$ 的样本。然而，如果计算了重要性抽样（IS）权重，则可以使用整个链来估计感兴趣函数在 $\pi$ 下的期望。遗憾的是，这种我们称之为重要性回火（IT）的方法可能会令人失望。部分原因在于最直接明显的实现方式是朴素的，并可能导致高方差估计量。我们推导了一种组合多个 IS 估计量的新最优方法，并证明了所得估计量具有与有效样本量概念高度相关的理想性质。我们简要报告了该最优组合在两个需要可逆跳 MCMC 的建模场景中的成功应用，而在这些场景中朴素方法均告失败。