将 ChEES 准则引入序贯蒙特卡洛采样器
统计计算
2026-01-30 v2 机器学习
系统与控制
系统与控制
机器学习
摘要
马尔可夫链蒙特卡洛（MCMC）方法是执行非参数贝叶斯推断的一种强大但计算昂贵的手段。利用梯度信息的 MCMC 提议（如 Hamiltonian Monte Carlo（HMC））若能恰当选取附加超参数，则能更好地探索感兴趣的参数空间。No-U-Turn Sampler（NUTS）是 HMC 的一种变体，在选取这些超参数方面极为有效，但其运行速度较慢，且不适合 GPU 架构。作为 NUTS 的一种替代方案，Change in the Estimator of the Expected Square HMC（ChEES-HMC）不仅在 GPU 上运行速度比 NUTS 更快，而且从后验中采样的效率也更高。序贯蒙特卡洛（SMC）采样器是另一种采样方法，其输出的是来自后验的加权样本。它们非常易于并行化，因而适合在 GPU 上运行，并且在提议分布的选择上比 MCMC 具有更大的灵活性。我们将 ChEEs-HMC 作为一种提议引入 SMC 采样器，并在多项任务上展示了与 NUTS 相当但更快的性能。
引用
@article{arxiv.2504.02627,
title = {Incorporating the ChEES Criterion into Sequential Monte Carlo Samplers},
author = {Andrew Millard and Joshua Murphy and Daniel Frisch and Simon Maskell},
journal= {arXiv preprint arXiv:2504.02627},
year = {2026}
}
备注
16 pages, 9 figures