面向层次性高斯过程模型的快速黎曼流形哈尔顿-米尔森采样
机器学习
2025-11-11 v1 机器学习
统计计算
摘要
基于高斯过程的层次贝叶斯模型被认为适用于描述真实数据中变量之间复杂的非线性依赖关系。然而，除少数简单情况外，针对这些模型的有效蒙特卡洛算法尚未建立。本研究表明，与现有程序库所实现的低效推断相比，黎曼流形哈尔顿-米尔森采样（RMHMC）的性能可通过依据模型结构优化计算顺序并动态编程特征分解来大幅提升。这一改进无法通过基于朴素自动求导器的现有库实现。我们在数值实验中展示了 RMHMC 能够有效从后验分布中进行采样，允许在仿真数据上的贝叶斯逻辑回归以及针对美国全国医疗支出数据的若干贝叶斯多核模型中进行倾向函数估计。这些结果为开发针对真实数据中高斯过程的有效蒙特卡洛算法奠定了基础，突显了需要开发可自定义库的重要性，用户可在其中集成动态编程对象，并根据模型结构精细优化自动求导模式。
引用
@article{arxiv.2511.06407,
title = {Fast Riemannian-manifold Hamiltonian Monte Carlo for hierarchical Gaussian-process models},
author = {Takashi Hayakawa and Satoshi Asai},
journal= {arXiv preprint arXiv:2511.06407},
year = {2025}
}