离散分布间散度的极小极大率最优估计
信息论
2021-03-04 v5 math.IT
统计理论
统计理论
摘要
我们研究了整数 时离散分布间 -散度的极小极大估计,其中包括 Kullback--Leibler 散度和 -散度作为特例。摒弃了获取独立性的常用理论技巧,我们构建了首个极小极大率最优估计量,该估计量不需要任何泊松化 (Poissonization)、样本分割或近似多项式的显式构造。该估计量采用混合方法:在非平滑区域求解一个基于矩匹配的问题无关线性规划,并在平滑区域应用依赖于问题的偏差校正插件估计量,两者之间设有软决策边界。
引用
@article{arxiv.1605.09124,
title = {Minimax Rate-Optimal Estimation of Divergences between Discrete Distributions},
author = {Yanjun Han and Jiantao Jiao and Tsachy Weissman},
journal= {arXiv preprint arXiv:1605.09124},
year = {2021}
}
备注
This (v5) is a significantly revised version of (v2), and fixed some typos in (v4)