中文

对偶黎曼流形与量子启发的哈密顿蒙特卡洛

机器学习 2021-07-06 v1 机器学习 统计计算

摘要

机器学习中目标后验分布的马尔可夫链蒙特卡洛推断主要通过哈密顿蒙特卡洛及其变体进行。这是由于基于哈密顿蒙特卡洛的采样器能够抑制随机游走行为。与其他马尔可夫链蒙特卡洛方法一样,哈密顿蒙特卡洛产生自相关样本,导致估计量方差高,且生成样本的有效样本量率低。先前研究表明,在哈密顿蒙特卡洛中加入对偶采样可比原始哈密顿蒙特卡洛产生更高的有效样本率。本文中,我们提出新算法,即黎曼流形哈密顿蒙特卡洛与量子启发哈密顿蒙特卡洛的对偶版本。黎曼流形哈密顿蒙特卡洛算法通过考虑目标的局部几何来改进哈密顿蒙特卡洛,这对于参数间可能呈现强相关的目标密度有益。量子启发哈密顿蒙特卡洛基于可具有随机质量的量子粒子。量子启发哈密顿蒙特卡洛使用随机质量矩阵,从而在尖峰和多模态分布(如跳跃扩散过程)上比哈密顿蒙特卡洛采样更好。分析在采用真实世界金融市场数据的跳跃扩散过程上,以及采用贝叶斯逻辑回归的真实世界基准分类任务上进行。

关键词

引用

@article{arxiv.2107.02070,
  title  = {Antithetic Riemannian Manifold And Quantum-Inspired Hamiltonian Monte Carlo},
  author = {Wilson Tsakane Mongwe and Rendani Mbuvha and Tshilidzi Marwala},
  journal= {arXiv preprint arXiv:2107.02070},
  year   = {2021}
}