二分类界经验估计的收敛速率
信息论
2018-10-03 v1 机器学习
math.IT
摘要
为二分类问题界定最佳可达错误概率是许多应用（包括机器学习、信号处理和信息论）所关注的问题。许多关于贝叶斯二分类错误率的界依赖于两类分布之间的信息散度。近来，Henze-Penrose（HP）散度被提出用于界定分类错误概率。我们考虑从随机样本中经验估计HP散度的问题。我们推导了HP散度的Friedman-Rafsky（FR）估计器的收敛速率界，该估计器与用于检验两个分布的多变量游程统计量相关。FR估计器源自跨越合并样本的多色欧几里得最小生成树（MST）。我们获得了Henze-Penrose散度的Friedman-Rafsky估计器的集中不等式。我们通过实验验证了结果，并展示了其在真实数据集上的应用。
引用
@article{arxiv.1810.01015,
title = {Convergence Rates for Empirical Estimation of Binary Classification Bounds},
author = {Salimeh Yasaei Sekeh and Morteza Noshad and Kevin R. Moon and Alfred O. Hero},
journal= {arXiv preprint arXiv:1810.01015},
year = {2018}
}
备注
27 pages, 8 figures