通过Lasso的广义线性模型:缩放与否?
统计方法学
2023-11-21 v1 统计计算
摘要
Lasso回归是统计学中用于特征选择的流行正则化方法。在线性与广义线性模型中计算Lasso估计量之前,通常对特征矩阵进行初步重缩放以确保所有特征被标准化。据称,若无此标准化,Lasso估计将不幸依赖于用于度量特征的单位。我们在广义线性模型背景下提出一种新型迭代式特征重缩放。现有Lasso算法将单次缩放作为预处理步骤,而所提重缩放在Lasso计算过程中迭代应用直至收敛。我们给出基于真实与模拟数据的数值示例,说明所提迭代重缩放可显著改善Lasso估计量的统计性能,且不带来任何显著的额外计算成本。
引用
@article{arxiv.2311.11236,
title = {Generalized Linear Models via the Lasso: To Scale or Not to Scale?},
author = {Anant Mathur and Sarat Moka and Zdravko Botev},
journal= {arXiv preprint arXiv:2311.11236},
year = {2023}
}