流形提升:将MCMC扩展到消失噪声 regime
统计计算
2021-12-02 v2
摘要
标准马尔可夫链蒙特卡罗方法难以探索集中于低维结构邻域内的分布。这些病态在自然会出现于多种情形中。例如,在贝叶斯逆问题建模和贝叶斯神经网络中,当观测数据信息量极高,或当感兴趣的部分统计参数不可辨识时,它们很常见。在本文中,我们提出一种策略,将原始采样问题转化为探索嵌入于更高维空间中的流形上所支持的分布的任务;与原始后验不同,该提升分布在消失噪声极限下仍保持弥散。我们采用一种约束哈密顿蒙特卡罗方法,利用该提升分布的流形几何结构,以执行高效的近似推断。我们在若干数值实验中证明,与竞争方法相反,我们所提方法的采样效率不会随着待探索目标分布向低维结构附近集中而退化。
引用
@article{arxiv.2003.03950,
title = {Manifold lifting: scaling MCMC to the vanishing noise regime},
author = {Khai Xiang Au and Matthew M. Graham and Alexandre H. Thiery},
journal= {arXiv preprint arXiv:2003.03950},
year = {2021}
}
备注
56 pages, 25 figures