SpreadNUTS——无转折采样路径的适度动态扩展与已访问区域划分

Fareed Sheriff

SpreadNUTS——无转折采样路径的适度动态扩展与已访问区域划分

统计计算 2023-07-13 v1 机器学习

作者: Fareed Sheriff

摘要

马尔可夫链蒙特卡洛(MCMC)方法由来已久且领域已被充分探索。MCMC 方法的目的是通过重复采样逼近分布;多数 MCMC 算法展现渐近最优性,即在极限处收敛于真实分布。然而,这些算法的区别在于其实用收敛保证与效率。尽管采样器最终可良好逼近分布,但因其用于现实世界,有必要使采样器给出分布良好估计的时刻在合理时间内可达。类似地,若从分布产生供估计用的良好样本在计算上困难或不可行,则该采样器无实际效用。因此,当今多数 MCMC 方法聚焦于提升效率与加速收敛。但许多 MCMC 算法受随机游走行为困扰,且常仅能缓解该行为,因彻底消除随机游走颇为困难。哈密顿蒙特卡洛(HMC)是一类理论上因哈密顿动力学相关性质而不展现随机游走行为的 MCMC 方法。本文引入对称为无转折采样器(NUTS)的特定 HMC 算法的修正,旨在比 NUTS 更快地探索样本空间,从而产生比 NUTS 更快收敛于真实分布的采样器。

关键词

马尔可夫链蒙特卡洛哈密顿蒙特卡洛无转折采样器收敛效率随机游走缓解样本空间探索 SpreadNUTS

引用

@article{arxiv.2307.06279,
  title  = {SpreadNUTS -- Moderate Dynamic Extension of Paths for No-U-Turn Sampling & Partitioning Visited Regions},
  author = {Fareed Sheriff},
  journal= {arXiv preprint arXiv:2307.06279},
  year   = {2023}
}

备注

7 pages, 6 figures

SpreadNUTS——无转折采样路径的适度动态扩展与已访问区域划分

摘要

关键词

引用

备注

相关论文