逐步算法何时满足子集选择准则?
统计理论
2009-09-29 v1 统计理论
摘要
同伦与解路径方面的最新结果表明,某些精心设计的贪心算法在算法参数的一定取值范围内,能够为一系列凸优化问题提供解路径。另一方面,在回归分析中,许多现有的子集选择准则(包括 、AIC、BIC、MDL、RIC 等)涉及优化一个包含计数测度的目标函数。本文分别将这两个优化问题表述为 (P1) 和 (P0)。后者通常是组合优化问题,且已被证明是 NP 难的。我们研究了这两个优化问题具有共同解的条件。因此,在这些情况下,逐步算法可用于解决看似不可解的问题。我们的主要结果受稀疏表示近期工作的启发,另外两个结果则源于不同角度:一是对充分性和必要性的直接分析,二是对最大相关协变量的条件。一个与最小角回归相关的极端例子也具有独立的研究价值。
引用
@article{arxiv.0708.2149,
title = {When do stepwise algorithms meet subset selection criteria?},
author = {Xiaoming Huo and Xuelei and Ni},
journal= {arXiv preprint arXiv:0708.2149},
year = {2009}
}
评论
Published at http://dx.doi.org/10.1214/009053606000001334 in the Annals of Statistics (http://www.imstat.org/aos/) by the Institute of Mathematical Statistics (http://www.imstat.org)