广义线性模型中使用连续尖峰-平板先验的贝叶斯分组正则化
统计方法学
2025-08-26 v9
摘要
我们在连续尖峰-平板（spike-and-slab）先验下研究高维广义线性模型（GLMs）中的贝叶斯分组正则化估计。我们的框架涵盖典型与非典型链接函数，并包含具有分组稀疏性的逻辑、泊松、负二项与高斯回归。我们在该先验下获得了最大后验（MAP）估计量与完整后验分布的最小最大 L2 收敛速率。因此，我们的理论结果证明了将后验众数作为点估计量的合理性。后验分布也以与 MAP 估计量相同的速率收缩，这是我们方法的一个吸引人特性，而分组 lasso 不具备此性质。在计算方面，我们提出了期望最大化（EM）与马尔可夫链蒙特卡洛（MCMC）算法。我们通过模拟以及从蛋白质序列预测人类免疫缺陷病毒（HIV）耐药性的真实数据应用来说明我们的方法。
引用
@article{arxiv.2007.07021,
title = {Bayesian Group Regularization in Generalized Linear Models with a Continuous Spike-and-Slab Prior},
author = {Ray Bai},
journal= {arXiv preprint arXiv:2007.07021},
year = {2025}
}
备注
48 pages, 5 tables, 1 figure. Fixed some minor typos in the proof of Theorem 1