GRASP：基于自适应收缩先验的分组回归
统计方法学
2025-06-24 v1 机器学习
机器学习
摘要
我们提出 GRASP，这是一个用于分组预测器回归的简单贝叶斯框架，基于正态贝塔素（NBP）先验。NBP 先验是马哈西hoe 先验的一个可调超参数的自适应推广，使其能够实现从强收缩到rile 正则化的灵活稀疏范围。与此前通过将 NBP 先验分解为结构化层级而引入 group inverse-gamma gamma（GIGG）先验的工作不同，我们表明直接控制尾部行为足以实现目标，而无需复杂的层级构造。扩展 Xu 等人最近的非尾部自适应分组半Cauchy 层级，GRASP 将 NBP 先验分配给局部和分组收缩参数，从而实现组内和组间的自适应稀疏。本 work 的关键贡献是提出一个 novel 框架，显式量化组内收缩参数之间的相关性，为理解分组收缩行为提供更深入的见解。我们还引入一个高效的 Metropolis-Hastings 抽样器用于超参数估计。实验结果在模拟数据和真实数据上表明，GRASP 在稀疏性和信噪比各异的分组回归问题中表现出色，具有良好的鲁棒性和通用性。
引用
@article{arxiv.2506.18092,
title = {GRASP: Grouped Regression with Adaptive Shrinkage Priors},
author = {Shu Yu Tew and Daniel F. Schmidt and Mario Boley},
journal= {arXiv preprint arXiv:2506.18092},
year = {2025}
}