重叠组Lasso的理论性质
机器学习
2011-11-11 v2
摘要
我们在线性回归设定下，给出了关于Jacob, Obozinski和Vert (2009) 提出的重叠组lasso的两组理论结果。该方法允许在稀疏回归中联合选择预测变量，并允许在编码为一组群的预测变量上实现复杂的结构化稀疏性。这种灵活的框架表明，可以通过复杂的群组集合来编码任意复杂的结构。我们的结果表明，这种策略给该过程带来了意想不到的理论后果。具体而言，我们给出了两组结果：(1) 预测和估计的有限样本界，以及(2) 渐近分布与选择。这两组结果都深入揭示了为该过程选择日益复杂的群组集合所带来的后果，以及当群组集合无法恢复真实的稀疏模式时会发生什么。此外，这些结果展示了具有和不具有重叠群组的组lasso过程之间的差异与相似性。我们的分析表明，群组集合的选择必须谨慎——过于复杂的群组集合将损害分析。
引用
@article{arxiv.1103.4614,
title = {Theoretical Properties of the Overlapping Groups Lasso},
author = {Daniel Percival},
journal= {arXiv preprint arXiv:1103.4614},
year = {2011}
}
备注
20 pages, submitted to Annals of Statistics