基于Dirichlet-Laplace全局-局部收缩先验的惩罚可信域变量选择
统计方法学
2016-09-02 v2
摘要
基于惩罚可信域的贝叶斯变量选择方法将模型拟合与变量选择分离。其思想是在联合后验可信域内搜索最稀疏解。尽管该方法成功,但它依赖于共轭正态先验的使用。近来,在高维贝叶斯变量选择中,全局-局部收缩先验的使用有了改进。本文中,我们将全局-局部先验纳入可信域选择框架。Dirichlet-Laplace (DL) 先验被适配于线性回归。展示了正态与DL先验的后验一致性,以及变量选择一致性。我们进一步引入一种新方法以调整线性回归先验分布中的超参数。我们提议选择超参数以最小化由R平方诱导的分布与预设目标分布之间的差异。对R平方的先验标定更为自然,尤其当存在大量预测变量而无法在该尺度上标定时。对于正态先验,这些超参数有闭式解以最小化分布间的Kullback-Leibler散度。
引用
@article{arxiv.1602.01160,
title = {Variable selection via penalized credible regions with Dirichlet-Laplace global-local shrinkage priors},
author = {Yan Zhang and Howard D. Bondell},
journal= {arXiv preprint arXiv:1602.01160},
year = {2016}
}