中文

关于Lasso在模型选择中的峰值现象

统计方法学 2009-04-29 v1

摘要

我简要报告了在优化Lasso模型参数时得到的一些意外结果。在改变观测数与变量数之比 n/p 的模拟中,我通常观察到测试误差曲线在转变点 n/p = 1 处出现一个强峰值。这种峰值现象在涉及样本协方差矩阵求逆的场景中已有充分记录,正如我在本文中所阐述的,它也是Lasso出现峰值的根源。关键问题在于Lasso惩罚项的参数化(例如,在当前R包lars中),我提出了一种基于归一化Lasso参数的解决方案。

关键词

引用

@article{arxiv.0904.4416,
  title  = {On the Peaking Phenomenon of the Lasso in Model Selection},
  author = {Nicole Kraemer},
  journal= {arXiv preprint arXiv:0904.4416},
  year   = {2009}
}