基于分数Ridge回归的非零收缩回归与子集选择

$\ell_p$范数惩罚，特别是Lasso，已成为将收缩回归扩展到子集选择的标准技术。尽管旨在实现神谕性质和一致估计，但现有的Lasso衍生方法仍然依赖于向零模型收缩，这需要仔细调整参数选择，并产生单调的变量选择。本研究引入了分数Ridge回归，这是Lasso惩罚的一种新颖推广，仅惩罚一部分系数。至关重要的是，Fridge即使在极端正则化下，也将模型向预指定目标大小的非零模型收缩。通过选择性地惩罚与较不重要变量相关的系数，Fridge旨在减少偏差，提高相对于Lasso的性能，并在保留最佳子集选择某些优势的同时，提供更直观的模型解释。