分段 Lipschitz 估计量的自由度
统计理论
2017-02-13 v3 统计理论
摘要
针对 中均值参数的一个估计量类,给出了类似于 Stein 引理的自由度表示。与先前结果相反,我们的表示对一系列不连续估计量成立。它表明,即使不连续点构成 Lebesgue 零测集,在计算自由度时也不能忽略它们。如果使用数据驱动的变量选择,回归中会自然产生带不连续点的估计量。本文详细考虑了两个此类例子,即最佳子集选择(best subset selection)和 lasso-OLS。对于 lasso-OLS,一般表示导出了基于 lasso 解路径的自由度估计,这反过来可用于估计 lasso-OLS 的风险。为最佳子集选择提出了类似的估计。通过模拟展示了风险估计在选变量数量方面的有用性,特别关注 lasso-OLS。
引用
@article{arxiv.1601.03524,
title = {Degrees of Freedom for Piecewise Lipschitz Estimators},
author = {Frederik Riis Mikkelsen and Niels Richard Hansen},
journal= {arXiv preprint arXiv:1601.03524},
year = {2017}
}
备注
113 pages, 89 figures