中文

无限维参数的 Highly Adaptive Lasso 估计量的一致相合性

统计理论 2017-09-20 v1 统计理论

摘要

考虑我们观测到某随机变量的 nn 个独立同分布副本,且已知其概率分布为指定统计模型的一个元素。我们感兴趣的是估计一个使指定损失函数的期望最小化的无限维目标参数。在 \cite{generally_efficient_TMLE} 中,我们定义了一个估计量,它在参数空间中所有变差范数受限于某常数 MM 的多元实值右连左极(cadlag)函数上最小化经验风险,并通过交叉验证选择 MM。我们将该估计量称为 Highly-Adaptive-Lasso 估计量,因为该约束可以被表述为对大量基函数线性组合的系数和的界 MM。具体而言,在目标参数为条件均值的情况下,它可以用标准 LASSO 回归估计量来实现。在 \cite{generally_efficient_TMLE} 中,我们证明了即使参数空间是完全非参数的,HAL 估计量关于(二次)基于损失的差异性以快于 n1/2n^{-1/2} 的速率(即关于某范数快于 n1/4n^{-1/4})相合。此速率所需的唯一假设是真实参数函数具有有限的变差范数。基于损失的差异性通常等价于 L2(P0)L^2(P_0) 型范数的平方。在本文中,我们证明了在某些弱连续性条件下,HAL 估计量也是一致相合的。

关键词

引用

@article{arxiv.1709.06256,
  title  = {Uniform Consistency of the Highly Adaptive Lasso Estimator of Infinite Dimensional Parameters},
  author = {Mark J. van der Laan and Aurélien F. Bibaut},
  journal= {arXiv preprint arXiv:1709.06256},
  year   = {2017}
}