重访 $\ell_p$ 球中的均值估计:最大似然估计是否最优?
统计理论
2025-07-02 v2 信息论
math.IT
统计理论
摘要
我们重访高斯序列模型中对 约束均值估计的问题,其中 。我们展示了最大似然估计(MLE)行为的两种现象,这些现象取决于噪声水平、约束半径、维度以及范数指数 。首先,若 位于 与 之间(包含),或 ,则 MLE 在所有噪声水平和所有约束半径下均为 minimax 最优率。另一方面,对于剩余的范数指数——即 位于 与 之间——表现更为显著:MLE 在几乎所有噪声水平和约束半径下(即在必要时用于 minimax 最优估计的非线性情况下)均为 minimax 率次优,尽管其在观察值上的非线性。我们的结果表明,当给定 个独立同分布的高斯样本时,MLE 可能因样本大小的多项式因子而次优。我们的下界是构造性的:当 MLE 次优时,我们提供明确的实例,证明 MLE 在其上必然次优。最后,在非凸情况下(即 ),我们发展了尖锐的局部高斯宽度界,这可能与其他问题无关。
引用
@article{arxiv.2506.10354,
title = {Revisiting mean estimation over $\ell_p$ balls: Is the MLE optimal?},
author = {Liviu Aolaritei and Michael I. Jordan and Reese Pathak and Annie Ulichney},
journal= {arXiv preprint arXiv:2506.10354},
year = {2025}
}
备注
43 pages, 3 figures