最小角回归
统计理论
2007-06-13 v2 统计理论
摘要
诸如全子集、向前选择与向后消除等模型选择算法的目的是基于将应用该模型的同一数据集来选择一个线性模型。通常我们有一大组可能的协变量可供使用,并希望从中选出精简的一组以对响应变量作有效预测。最小角回归(LARS)是一种新的模型选择算法,是传统向前选择方法一个有用且较不贪婪的版本。推导了三个主要性质:(1)对LARS算法的一个简单修正实现了Lasso,即约束绝对回归系数之和的普通最小二乘的一个吸引人版本;该LARS修正计算一给定问题的所有可能Lasso估计,所用计算机时间比以往方法少一个数量级。(2)另一个不同的LARS修正高效地实现了向前逐步线性回归,另一种有前景的新模型选择方法;
引用
@article{arxiv.math/0406456,
title = {Least Angle Regression},
author = {Bradley Efron and Trevor Hastie and Iain Johnstone and Robert Tibshirani},
journal= {arXiv preprint arXiv:math/0406456},
year = {2007}
}
备注
This paper discussed in: math.ST/0406463, math.ST/0406467, math.ST/0406468, math.ST/0406469, math.ST/0406470, math.ST/0406471, math.ST/0406472, math.ST/0406473. Rejoinder in math.ST/0406474