Fisher信息的非参数估计及其应用
信息论
2020-05-08 v1 机器学习
信号处理
math.IT
统计理论
机器学习
统计理论
摘要
本文考虑从大小为 的随机样本估计位置参数的Fisher信息的问题。首先,重新审视了Bhattacharya提出的估计量,并推导了改进的收敛速率。其次,提出了一种称为截断估计量的新估计量。与Bhattacharya估计量相比,新估计量在收敛速率上可证明具有更优的上界,尽管其正则性条件有所不同。第三,针对被高斯噪声污染的随机变量这一实际相关情形,对两种估计量进行了评估。此外,利用联系高斯噪声中Fisher信息与最小均方误差(MMSE)的Brown恒等式,提出了两种相应的MMSE一致估计量。给出了Bhattacharya估计量、截断估计量以及MMSE估计量的仿真示例。示例表明,与Bhattacharya估计量相比,截断估计量可显著减少保证特定置信区间所需的样本量。
引用
@article{arxiv.2005.03622,
title = {Nonparametric Estimation of the Fisher Information and Its Applications},
author = {Wei Cao and Alex Dytso and Michael Fauß and H. Vincent Poor and Gang Feng},
journal= {arXiv preprint arXiv:2005.03622},
year = {2020}
}