中文

重访 $\ell_p$ 球中的均值估计:最大似然估计是否最优?

统计理论 2025-07-02 v2 信息论 math.IT 统计理论

摘要

我们重访高斯序列模型中对 p\ell_p 约束均值估计的问题,其中 p[0,]p \in [0, \infty]。我们展示了最大似然估计(MLE)行为的两种现象,这些现象取决于噪声水平、约束半径、维度以及范数指数 pp。首先,若 pp 位于 001+Θ(1logd)1 + \Theta(\tfrac{1}{\log d}) 之间(包含),或 p2p \geq 2,则 MLE 在所有噪声水平和所有约束半径下均为 minimax 最优率。另一方面,对于剩余的范数指数——即 pp 位于 1+Θ(1logd)1 + \Theta(\tfrac{1}{\log d})22 之间——表现更为显著:MLE 在几乎所有噪声水平和约束半径下(即在必要时用于 minimax 最优估计的非线性情况下)均为 minimax 率次优,尽管其在观察值上的非线性。我们的结果表明,当给定 nn 个独立同分布的高斯样本时,MLE 可能因样本大小的多项式因子而次优。我们的下界是构造性的:当 MLE 次优时,我们提供明确的实例,证明 MLE 在其上必然次优。最后,在非凸情况下(即 p<1p < 1),我们发展了尖锐的局部高斯宽度界,这可能与其他问题无关。

关键词

引用

@article{arxiv.2506.10354,
  title  = {Revisiting mean estimation over $\ell_p$ balls: Is the MLE optimal?},
  author = {Liviu Aolaritei and Michael I. Jordan and Reese Pathak and Annie Ulichney},
  journal= {arXiv preprint arXiv:2506.10354},
  year   = {2025}
}

备注

43 pages, 3 figures