一种用于组变量选择的变分尖峰- slab 方法

Buyu Lin; Changhao Ge; Jun S. Liu

一种用于组变量选择的变分尖峰- slab 方法

统计方法学 2023-10-02 v1 统计理论统计理论

作者: Buyu Lin , Changhao Ge , Jun S. Liu

摘要

我们引入一类用于带分组变量高维线性回归的通用尖峰-slab 先验，并提出一种坐标上升变分推断（CAVI）算法以获得最优变分贝叶斯近似。通过对一个特定但全面的 slab 分布族使用参数扩张，我们在计算效率上获得进一步提升。该方法可轻松扩展至加性模型拟合。在理论上，我们给出了通用尖峰-slab 先验的一般条件，使得我们能够推导线性回归与加性模型下真实后验与 VB 后验的收缩速率，其中若干先前理论结果可视为特例。我们的模拟研究与真实数据应用表明，所提方法在变量选择与参数估计上均优于现有方法。我们的算法已在 R 包 GVSSB 中实现。

关键词

尖峰-slab 先验组变量选择变分推断高维回归加性模型收缩速率

引用

@article{arxiv.2309.16855,
  title  = {A Variational Spike-and-Slab Approach for Group Variable Selection},
  author = {Buyu Lin and Changhao Ge and Jun S. Liu},
  journal= {arXiv preprint arXiv:2309.16855},
  year   = {2023}
}

备注

64 pages, 6 figures

一种用于组变量选择的变分尖峰- slab 方法

摘要

关键词

引用

备注

相关论文