中文

贝叶斯稀疏线性回归的神经元化先验

统计方法学 2021-07-07 v3

摘要

尽管贝叶斯变量选择方法已被深入研究,但其在实际中的常规使用仍落后于 Lasso 等非贝叶斯对应方法,这很可能源于先验选择在计算与灵活性上的困难。为缓解这些挑战,我们提出神经元化先验,以统一并扩展一些流行的收缩先验,如 Laplace、Cauchy、horseshoe 与 spike-and-slab 先验。神经元化先验可写为高斯权重变量与经激活函数由高斯变换得到的尺度变量之乘积。与经典 spike-and-slab 先验相比,神经元化先验在不使用任何潜指示变量的情况下实现同样的显式变量选择,从而带来更高效灵活的 posterior 采样与更有效的后验模态估计。理论上,我们给出了神经元化形式取得最优后验收缩速率的具体条件,并证明一个广泛适用的 MCMC 算法在神经元化形式下取得指数级快速收敛速率。我们还考察了多个模拟与真实数据例子,证明在所有知名情形中使用神经元化表示在计算上比其标准对应形式更高效或相当。CRAN 中提供了 R 包 NPrior 以在贝叶斯线性回归中使用神经元化先验。

关键词

引用

@article{arxiv.1810.00141,
  title  = {Neuronized Priors for Bayesian Sparse Linear Regression},
  author = {Minsuk Shin and Jun S Liu},
  journal= {arXiv preprint arXiv:1810.00141},
  year   = {2021}
}