中文

Rényi 散度及其相关量的非参数估计

机器学习 2014-05-13 v2 统计理论 统计理论

摘要

我们考虑连续分布之间 L2L_2、Rényi-α\alpha 和 Tsallis-α\alpha 散度的非参数估计。我们的方法是为两个密度函数的特定积分泛函构造估计量,并将其转化为散度估计量。对于积分泛函,我们的估计量基于对初步 plug-in 估计量的修正。我们证明,当密度函数的光滑度 ss 均至少为 d/4d/4(其中 dd 为维数)时,这些估计量能达到 n1/2n^{-1/2} 的参数收敛速率。我们还推导了该问题的 minimax 下界,证实了 s>d/4s > d/4 是实现 n1/2n^{-1/2} 收敛速率的必要条件。我们通过大量模拟验证了我们的理论保证。

关键词

引用

@article{arxiv.1402.2966,
  title  = {Nonparametric Estimation of Renyi Divergence and Friends},
  author = {Akshay Krishnamurthy and Kirthevasan Kandasamy and Barnabas Poczos and Larry Wasserman},
  journal= {arXiv preprint arXiv:1402.2966},
  year   = {2014}
}