正则化 M-估计量的渐近线性展开
统计理论
2019-09-04 v1 统计理论
摘要
参数化高维回归分析需要使用正则化项以获得可解释的模型。相应的估计量可视为正则化 M-泛函,其天然具有高度非线性。我们研究在何种条件下这些 M-泛函是紧可微的,从而使得相应估计量容许渐近线性展开。在一步构造中,对于适当一致的初始估计量,该线性化通过在给定的数据点处计算相应影响曲线来替代求解优化问题。我们展示了渐近线性展开在何种条件下成立,并给出了符合该框架的机器学习算法的具体例子。
引用
@article{arxiv.1909.00579,
title = {Asymptotic linear expansion of regularized M-estimators},
author = {Tino Werner},
journal= {arXiv preprint arXiv:1909.00579},
year = {2019}
}