投影 Stein 变分 Newton：一种高维下快速且可扩展的贝叶斯推断方法
最优化与控制
2020-02-11 v2
摘要
我们提出了一种用于高维参数空间中贝叶斯推断的快速且可扩展的变分方法，称之为投影 Stein 变分 Newton (pSVN) 方法。我们利用（对数后验的）Hessian 算子开发高维参数空间中后验分布的内在低维几何结构，并通过 SVN 方法对投影到低维子空间的参数样本进行并行更新。该子空间是利用当前样本处平均 Hessian 的特征向量自适应构建的。我们展示了所提方法的快速收敛性及其相对于参数数量、样本数和处理器核数的可扩展性。
引用
@article{arxiv.1901.08659,
title = {Projected Stein Variational Newton: A Fast and Scalable Bayesian Inference Method in High Dimensions},
author = {Peng Chen and Keyi Wu and Joshua Chen and Thomas O'Leary-Roseberry and Omar Ghattas},
journal= {arXiv preprint arXiv:1901.08659},
year = {2020}
}