针对具有块相关预测变量的稀疏回归的组逆伽马伽马收缩
统计方法学
2023-03-09 v1
摘要
重尾连续收缩先验,如 horseshoe 先验,被广泛用于稀疏估计问题。然而,将这些先验推广到具有分组结构的预测变量方面的工作有限。本文特别关注这样一种回归系数估计情形:协变量空间中已知协变量分组内部包含高共线性的成片区域。为缓解由多重共线性引起的方差膨胀,我们提出了组逆伽马伽马(GIGG)先验,这是一种重尾先验,能够以数据自适应的方式在局部收缩与组收缩之间进行权衡。GIGG 先验的一个特例是组 horseshoe 先验,其收缩轮廓在组内相关,使得回归系数在边缘上具有精确的 horseshoe 正则化。我们展示了线性回归模型中回归系数的后验一致性,以及稀疏正态均值模型中均值参数的后验集中结果。与 GIGG 回归对应的全条件分布可闭式导出,从而带来直接的后验计算。我们通过模拟表明,在广泛的相关系数结构与组内信号密度下,GIGG 回归均产生较低的均方误差。我们将 GIGG 回归应用于国家健康与营养检查调查(National Health and Nutrition Examination Survey)数据,以关联环境暴露与肝功能。
引用
@article{arxiv.2102.10670,
title = {Group Inverse-Gamma Gamma Shrinkage for Sparse Regression with Block-Correlated Predictors},
author = {Jonathan Boss and Jyotishka Datta and Xin Wang and Sung Kyun Park and Jian Kang and Bhramar Mukherjee},
journal= {arXiv preprint arXiv:2102.10670},
year = {2023}
}
备注
44 pages, 4 figures