多面体上的快速 MCMC 采样算法

我们提出并分析了两种新的 MCMC 采样算法，即 Vaidya 行走和 John 行走，用于从多面体上的均匀分布生成样本。这两种随机行走均是源自内点法的采样算法。前者基于 Vaidya 引入的体积对数障碍函数，而后者利用 John 椭球。我们表明，Vaidya 行走的混合步数显著少于以往研究中基于对数障碍函数的 Dikin 行走。对于由 $n > d$ 个线性约束定义的 $\mathbb{R}^d$ 中的多面体，我们证明从热启动开始的混合时间上界为 $\mathcal{O}(n^{0.5}d^{1.5})$，相比之下 Dikin 行走的混合时间上界为 $\mathcal{O}(nd)$。Vaidya 行走每一步的计算代价与 Dikin 行走同阶，且在常数预因子上至多为其两倍。对于 John 行走，我们证明了其混合时间的 $\mathcal{O}(d^{2.5}\cdot\log^4(n/d))$ 上界，并猜想其改进变体可实现 $\mathcal{O}(d^2\cdot\text{polylog}(n/d))$ 的混合时间。此外，我们提出了 Vaidya 和 John 行走的变体，它们能从确定性起点在多项式时间内混合。数值算例展示了 Vaidya 行走相对于 Dikin 行走的加速效果。