中文

具有费雪信息率的有限样本对称均值估计

统计理论 2023-06-30 v1 信息论 机器学习 math.IT 概率论 机器学习 统计理论

摘要

未知方差-σ2\sigma^2 分布 ff 的均值可从 nn 个样本中以方差 σ2n\frac{\sigma^2}{n} 及近乎相应的亚高斯速率估计。当 ff 仅知平移时,渐近地可改进为 1nI\frac{1}{n\mathcal I},其中 I\mathcal I 为分布的费雪信息。对一般未知 ff 这样的改进不可能,但 [Stone, 1975] 表明若 ff 关于其均值 对称\textit{对称},该渐近收敛 \textit{是} 可能的。然而 Stone 的界是渐近的:收敛所需的 nn 以未指定的方式依赖于分布 ff 和失败概率 δ\delta。本文中我们给出了对称均值估计关于费雪信息的有限样本保证。对每个 n>log1δn > \log \frac{1}{\delta}f,n,δf, n, \delta,我们得到接近方差为 1nIr\frac{1}{n \mathcal I_r} 的亚高斯的收敛,其中 Ir\mathcal I_r 为平滑半径为 rrrr-平滑\textit{平滑} 费雪信息,rrnn 多项式衰减。此界基本匹配已知-ff 设定下的有限样本保证。

关键词

引用

@article{arxiv.2306.16573,
  title  = {Finite-Sample Symmetric Mean Estimation with Fisher Information Rate},
  author = {Shivam Gupta and Jasper C. H. Lee and Eric Price},
  journal= {arXiv preprint arXiv:2306.16573},
  year   = {2023}
}

备注

COLT 2023