中文

高维 Logistic 模型中 MLE 的渐近分布:任意协方差

统计理论 2023-01-05 v2 统计方法学 统计理论

摘要

我们研究了高维 logistic 模型中最大似然估计(MLE)的分布,将 Sur(2019)的近期结果推广到高斯协变量可能具有任意协方差结构的情况。我们证明,在大规模问题极限下保持协变量个数 pp 与样本量 nn 之比恒定,任意有限个 MLE 坐标均服从多元正态分布。具体地,MLE 的第 jj 个坐标 β^j\hat {\beta}_j 渐近服从正态分布,其均值为 αβj\alpha_\star \beta_j,标准差为 σ/τj\sigma_\star/\tau_j;其中 βj\beta_j 为真回归系数值,τj\tau_j 为在第 jj 个预测变量给定其余所有变量时的条件标准差。数值参数 α>1\alpha_\star > 1σ\sigma_\star 仅依赖于问题维度 p/np/n 与总体信号强度,且可被准确估计。我们的结果表明,MLE 的幅度存在向上的偏倚,且 MLE 的标准差大于经典理论所预测者。我们给出了一系列在模拟与真实数据上的实验,显示出与理论的高度吻合。

关键词

引用

@article{arxiv.2001.09351,
  title  = {The Asymptotic Distribution of the MLE in High-dimensional Logistic Models: Arbitrary Covariance},
  author = {Qian Zhao and Pragya Sur and Emmanuel J. Candès},
  journal= {arXiv preprint arXiv:2001.09351},
  year   = {2023}
}