稀疏估计量与神谕性质，或霍奇斯估计量的回归
统计理论
2007-11-08 v1 统计方法学
统计理论
摘要
我们指出了 Fan 和 Li (2001, 2002, 2004) 所使用的神谕性质概念中存在的一些陷阱，这些陷阱让人联想到与霍奇斯估计量相关的众所周知的陷阱。神谕性质通常是估计量稀疏性的一个结果。我们证明，任何满足稀疏性质的估计量，其最大风险都会收敛到损失函数的上确界；特别地，当损失函数无界时，最大风险会发散至无穷大。为便于阐述，该结果在线性回归模型的框架下给出，但其推广远不止于此。在一项蒙特卡洛研究中，我们还评估了 Fan 和 Li (2001) 引入的平滑剪切绝对偏差 (SCAD) 估计量在有限样本中该问题的严重程度。我们发现，该估计量在有限样本中的表现可能相当差，并且当估计量被调至稀疏时，其相对于最大似然估计的最坏情况表现会随着样本量的增加而恶化。
引用
@article{arxiv.0704.1466,
title = {Sparse Estimators and the Oracle Property, or the Return of Hodges' Estimator},
author = {Hannes Leeb and Benedikt M. Poetscher},
journal= {arXiv preprint arXiv:0704.1466},
year = {2007}
}
备注
18 pages, 5 figures