非凸惩罚回归的坐标下降算法及其在生物特征选择中的应用
应用统计
2011-04-15 v1
摘要
目前已经提出了许多涉及非凸惩罚函数的变量选择方法。这些方法包括平滑截断绝对偏差（SCAD）惩罚和极小极大凹惩罚（MCP），已被证明具有吸引人的理论性质，但模型拟合并非易事，且所得解可能不稳定。在此，我们展示了坐标下降算法在拟合这些模型方面的潜力，确立了理论收敛性质，并证明它们比竞争方法快得多。此外，我们展示了凸性诊断的效用，以确定参数空间中目标函数局部凸的区域，即使惩罚函数本身并非凸的。我们的模拟研究和数据实例表明，在许多应用中，MCP和SCAD等非凸惩罚是lasso的有力替代方案。特别是，我们的数值结果表明，在这三种方法中MCP是首选方法。
引用
@article{arxiv.1104.2748,
title = {Coordinate descent algorithms for nonconvex penalized regression, with applications to biological feature selection},
author = {Patrick Breheny and Jian Huang},
journal= {arXiv preprint arXiv:1104.2748},
year = {2011}
}
备注
Published in at http://dx.doi.org/10.1214/10-AOAS388 the Annals of Applied Statistics (http://www.imstat.org/aoas/) by the Institute of Mathematical Statistics (http://www.imstat.org)