哈密顿蒙特卡洛在多峰密度上是否比随机游走混合更快？

哈密顿蒙特卡洛（HMC）是一类非常流行且通用的马尔可夫链蒙特卡洛（MCMC）算法集合。HMC 算法广受欢迎的一个解释是：当目标维度 $d$ 变大时其优异表现：在许多常见统计模型满足的条件下，最优调谐的 HMC 算法运行时间随 $d^{0.25}$ 缩放。与之形成鲜明对比的是，通常的随机游走 Metropolis（RWM）算法在最优调谐下运行时间随 $d$ 缩放。HMC 算法这种随维度的优越缩放性归因于：与 RWM 不同，它在提议分布中融入了梯度信息。在本文中，我们研究一个不同的缩放问题：对于高度 $\textit{多峰}$ 目标，HMC 是否胜过 RWM？我们发现答案常常是 $\textit{否}$。我们计算了两类算法在一类特定多峰目标密度下的谱隙，并证明它们相同。关键原因在于，在单一模态内，梯度对其他模态 effectively 无知，从而抵消了 HMC 算法在单峰目标上享有的优势。我们还给出启发性论证，表明上述观察可能相当普遍地成立。我们回答该问题的主要工具是利用 Liouville 定理得到的 HMC 电导率的一个新颖简单公式。该结果使我们能够计算 HMC 算法（包括经典各向同性动量 HMC 与近期黎曼 HMC）在多峰目标下的谱隙。