非参数对合马尔可夫链蒙特卡洛
机器学习
2022-11-03 v1 编程语言
统计计算
机器学习
摘要
概率编程中的一个挑战性问题是开发适用于通用概率编程语言（PPL）中任意程序的推断算法。我们提出非参数对合马尔可夫链蒙特卡洛（NP-iMCMC）算法，作为一种为可在通用 PPL 中表达的非参数模型构造 MCMC 推断算法的方法。基于统一的对合 MCMC 框架，并通过提供驱动维度间状态移动的通用过程，我们表明 NP-iMCMC 可将众多现有的 iMCMC 算法推广到非参数模型上工作。我们证明了 NP-iMCMC 采样器的正确性。我们的实证研究表明，若干 iMCMC 算法已有的优势延续到了它们的非参数扩展中。将我们的方法应用于最近提出的非参数 HMC（一种（多步）NP-iMCMC 的实例），我们构造了若干非参数扩展（均为新提出），其展现出显著的性能提升。
引用
@article{arxiv.2211.01100,
title = {Nonparametric Involutive Markov Chain Monte Carlo},
author = {Carol Mak and Fabian Zaiser and Luke Ong},
journal= {arXiv preprint arXiv:2211.01100},
year = {2022}
}
备注
Updated plots (after fixing minor bugs in the implementation) compared to the published version in Proceedings of the 39th International Conference on Machine Learning, PMLR 162:14802-14859, 2022. The conclusions of the version published at ICML 2022 are not affected