高维线性模型中经验贝叶斯后验的变分近似
统计方法学
2020-08-03 v1 统计理论
机器学习
统计理论
摘要
在高维情形下,先验尾部对后验计算与渐近集中速率均有显著影响。为在保持后验计算相对简单的同时实现最优速率,近期提出了一种经验贝叶斯方法,其特点为具有数据驱动中心的细尾共轭先验。尽管共轭先验减轻了部分计算负担,仍需要马尔可夫链蒙特卡罗方法,在高维时可能代价高昂。本文中,我们发展了经验贝叶斯后验的一种变分近似,其计算快速且保留了原后验的最优集中速率性质。在模拟中,我们的方法在广泛的高维设定下相较于文献中已有的变分近似表现出更优性能。
引用
@article{arxiv.2007.15930,
title = {Variational approximations of empirical Bayes posteriors in high-dimensional linear models},
author = {Yue Yang and Ryan Martin},
journal= {arXiv preprint arXiv:2007.15930},
year = {2020}
}
备注
30 pages, 1 figure, 4 tables