稀疏组提升——无偏的组与变量选择
统计方法学
2024-04-09 v2 机器学习
摘要
在存在分组协变量的情况下，我们提出一种允许在组间与组内强制稀疏性的提升框架。通过同时使用分量式与组式梯度提升并调整自由度，可通过提升拟合具有与稀疏组 lasso 相似性质的模型。我们表明组内与组间稀疏性可由混合参数控制，并讨论了其与稀疏组 lasso 中混合参数的异同。通过模拟、基因数据以及农业数据，我们展示了该估计量的有效性与预测竞争力。数据与模拟表明，在存在分组变量时，与分量式提升相比，稀疏组提升的使用与更无偏的变量选择及更高的可预测性相关。此外，我们提出了一种通过自由度降低分量式提升中偏差的方法。
引用
@article{arxiv.2206.06344,
title = {Sparse-group boosting -- Unbiased group and variable selection},
author = {Fabian Obster and Christian Heumann},
journal= {arXiv preprint arXiv:2206.06344},
year = {2024}
}