LASSO、迭代特征选择与相关选择器:Oracle 不等式与数值性能
统计理论
2008-11-25 v4 统计理论
摘要
我们提出了一类用于具有二次损失回归估计的通用算法族。我们的算法能够从大型字典中选择相关函数。我们证明了许多已针对此任务研究过的算法(包括 LASSO 和 Group LASSO、Dantzig 选择器、迭代特征选择等)均属于该算法族,并展示了该族中另一个特殊成员,我们在本文中称之为相关选择器(Correlation Selector)。利用我们算法族的通用性质,我们证明了 IFS、LASSO 和相关选择器的 Oracle 不等式,并在一个玩具示例上比较了这些估计量的数值性能。
引用
@article{arxiv.0710.4466,
title = {LASSO, Iterative Feature Selection and the Correlation Selector: Oracle Inequalities and Numerical Performances},
author = {Pierre Alquier},
journal= {arXiv preprint arXiv:0710.4466},
year = {2008}
}