贝叶斯优化序贯代理（BOSS）算法：面向广泛贝叶斯分层模型的快速贝叶斯推断
统计方法学
2024-03-20 v1 应用统计
统计计算
摘要
基于拉普拉斯近似和求积方法的近似贝叶斯推断因其在拟合潜在高斯模型（LGM）时的高效性而日益流行，LGM涵盖了诸如贝叶斯广义线性模型、生存模型和时空模型等常用模型。然而，许多有用的模型仅在某些条件参数固定的情况下才属于LGM框架，否则设计矩阵会随这些参数变化。此类模型被称为条件LGM，其例子包括变点检测、非线性回归等。现有的条件LGM拟合方法依赖于网格搜索或马尔可夫链蒙特卡洛（MCMC）；两者都需要对条件参数的未归一化后验密度进行大量评估。由于每次密度评估都需要拟合一个单独的LGM，这些方法在简单场景之外计算成本极高。在这项工作中，我们引入了贝叶斯优化序贯代理（BOSS）算法，该算法将贝叶斯优化与近似贝叶斯推断方法相结合，以显著减少拟合条件LGM所需的计算资源。与网格或MCMC方法相比，贝叶斯优化以数量级更少的评估次数为我们提供了序贯设计点，这些点捕获了条件参数的大部分后验质量，进而产生一个易于归一化的精确代理后验分布。我们通过广泛的模拟研究以及在流行病学、环境科学和天体物理学中的实际应用，展示了所提方法的效率、准确性和实用性。
引用
@article{arxiv.2403.12250,
title = {Bayesian Optimization Sequential Surrogate (BOSS) Algorithm: Fast Bayesian Inference for a Broad Class of Bayesian Hierarchical Models},
author = {Dayi Li and Ziang Zhang},
journal= {arXiv preprint arXiv:2403.12250},
year = {2024}
}
备注
The authors contributed equally to this work. The names are listed alphabetically