排斥-吸引哈密顿蒙特卡洛

我们提出了一种哈密顿蒙特卡洛 (HMC) 的变体，称为排斥-吸引哈密顿蒙特卡洛 (RAHMC)，用于从多峰分布中采样。支撑 RAHMC 的关键思想是偏离作为传统 HMC 基础的哈密顿系统保守动力学，转而采用共形哈密顿系统的耗散动力学。具体而言，RAHMC 包含两个阶段：一个模式排斥阶段，鼓励采样器离开高概率密度区域；以及一个模式吸引阶段，促使采样器找到并稳定在备选模式附近。我们通过仅引入一个额外的调优参数——摩擦系数——来实现这一点。所提出的方法适应目标分布的几何结构（例如模式和密度脊），并且与传统的 HMC 相比，能够以几乎为零的计算开销生成跨越低概率障碍的提议。值得注意的是，RAHMC 不需要关于目标分布的额外信息或对先前访问过的模式的记忆。我们建立了 RAHMC 的理论基础，并讨论了对文献中几种 HMC 变体的排斥-吸引扩展。最后，我们通过双重平均提供了一种免调优的实现，并证明了其在高维中从多峰和单峰分布采样的有效性。