高维 Logistic 模型中 MLE 的渐近分布:任意协方差
统计理论
2023-01-05 v2 统计方法学
统计理论
摘要
我们研究了高维 logistic 模型中最大似然估计(MLE)的分布,将 Sur(2019)的近期结果推广到高斯协变量可能具有任意协方差结构的情况。我们证明,在大规模问题极限下保持协变量个数 与样本量 之比恒定,任意有限个 MLE 坐标均服从多元正态分布。具体地,MLE 的第 个坐标 渐近服从正态分布,其均值为 ,标准差为 ;其中 为真回归系数值, 为在第 个预测变量给定其余所有变量时的条件标准差。数值参数 与 仅依赖于问题维度 与总体信号强度,且可被准确估计。我们的结果表明,MLE 的幅度存在向上的偏倚,且 MLE 的标准差大于经典理论所预测者。我们给出了一系列在模拟与真实数据上的实验,显示出与理论的高度吻合。
引用
@article{arxiv.2001.09351,
title = {The Asymptotic Distribution of the MLE in High-dimensional Logistic Models: Arbitrary Covariance},
author = {Qian Zhao and Pragya Sur and Emmanuel J. Candès},
journal= {arXiv preprint arXiv:2001.09351},
year = {2023}
}