Rényi 散度及其相关量的非参数估计
机器学习
2014-05-13 v2 统计理论
统计理论
摘要
我们考虑连续分布之间 、Rényi- 和 Tsallis- 散度的非参数估计。我们的方法是为两个密度函数的特定积分泛函构造估计量,并将其转化为散度估计量。对于积分泛函,我们的估计量基于对初步 plug-in 估计量的修正。我们证明,当密度函数的光滑度 均至少为 (其中 为维数)时,这些估计量能达到 的参数收敛速率。我们还推导了该问题的 minimax 下界,证实了 是实现 收敛速率的必要条件。我们通过大量模拟验证了我们的理论保证。
引用
@article{arxiv.1402.2966,
title = {Nonparametric Estimation of Renyi Divergence and Friends},
author = {Akshay Krishnamurthy and Kirthevasan Kandasamy and Barnabas Poczos and Larry Wasserman},
journal= {arXiv preprint arXiv:1402.2966},
year = {2014}
}