多方案 Markov 链蒙特卡洛算法的根本局限性

我们研究了多方案 Markov 链蒙特卡洛（MCMC）算法，如 Multiple-try 或广义 Metropolis-Hastings 方案，因其对并行计算的友好性而近期受到重新关注。首先，我们证明了任何多方案方案相对于相应单方案的收敛速度提升都不能超过因子 $K$，其中 $K$ 表示每次迭代中的方案数。该结果适用于任意目标分布，表明串行多方案实现始终不如单方案实现高效。其次，我们考虑关于欧几里得空间上的 log-concave 分布，证明在此情况下，速度提升最多仅为 $K$ 的对数，这意味着即便是并行多方案实现在它们能提供的计算收益方面也存在根本性限制。关键在于，我们的结果适用于任意多方案方案，仅依赖于相关核函数的两步结构（即首先生成 $K$ 个候选点，然后在其中选择一个）。我们的理论结果通过数值仿真得到了验证。