单变量引导的稀疏回归
统计方法学
2025-06-26 v9
摘要
本文引入了一种新型统计方法——``UniLasso''，用于稀疏回归。该方法为 two-stage 流程，既保留了单变量系数的符号，又利用其幅度。这两种属性对于模型的稳定性和解释性都非常理想。通过全面仿真和对真实数据集的应用，我们展示了 UniLasso 在 various 设置下优于 Lasso，尤其在稀疏性和模型可解释性方面表现更佳。我们在不同于 LASSO 众所周知的 irrepresentability 条件下，证明了 UniLasso 在支持回收和均方误差一致性方面的渐近性能。也讨论了对广义线性模型（GLM）和 Cox 回归的扩展。
引用
@article{arxiv.2501.18360,
title = {Univariate-Guided Sparse Regression},
author = {Sourav Chatterjee and Trevor Hastie and Robert Tibshirani},
journal= {arXiv preprint arXiv:2501.18360},
year = {2025}
}