经验贝叶斯视角下的异方差均值估计
统计理论
2026-03-17 v1 统计理论
摘要
为理解从数据质量不同的样本中进行估计的基本极限，我们研究了从异方差高斯观测中估计均值参数的问题，其中方差未知且可能在不同观测之间任意变化。虽然已知方差时简单线性估计器可达到最小均方误差，但在缺乏此知识的情况下进行估计具有挑战性，因为存在大量 nuisance 参数。我们提出一种基于经验贝叶斯的简单且原则性的方法：将观测建模为若干独立同分布的正态尺度混合分布，并计算均值的轮廓最大似然估计 (MLE)，将非参数混合分布视为 nuisance 参数。我们的结果表明，该估计器在文献中各种异方差模型下均可实现接近最优的误差界。特别地，在子信号问题中，即未知子集的观测具有小方差，我们的估计器无需任何调参即可自适应地为所有信号大小实现 minimax 速率，包括锐利相位转折。我们关键技术步骤之一是通过对变换多项式基上的切比雪夫近似，获得正态尺度混合分布的更精细度量熵界。这一方法导致对方差比率的改进的多对数依赖，而非多项式依赖，可能对独立兴趣亦有意义。
引用
@article{arxiv.2603.13499,
title = {An Empirical Bayes Perspective on Heteroskedastic Mean Estimation},
author = {Yanjun Han and Abhishek Shetty and Jacob Shkrob},
journal= {arXiv preprint arXiv:2603.13499},
year = {2026}
}