中文

平移不变核 HSIC 估计的极小化极大速率

统计理论 2024-10-15 v2 信息论 机器学习 math.IT 机器学习 统计理论

摘要

核技术是数据科学和统计学中最具影响力的方法之一。在温和条件下,与核相关的再生核 Hilbert 空间能够编码 M2M\ge 2 个随机变量的独立性。依赖核的最普遍的独立性度量可能是所谓的 Hilbert-Schmidt 独立性准则(HSIC;在统计学文献中也称为距离协方差)。尽管自其约二十年前提出以来已有多种 HSIC 估计器,但关于 HSIC 能以何种速率被估计的基本问题仍未解决。在本工作中,我们证明了在 Rd\mathbb R^d 上,对于包含高斯分布的 Borel 测度以及连续有界平移不变特征核,HSIC 估计的极小化极优速率为 O ⁣(n1/2)\mathcal O\!\left(n^{-1/2}\right)。具体而言,我们的结果意味着许多最常用的估计器(包括 U-统计量、V-统计量和基于 Nystr"om 的估计器)在 Rd\mathbb R^d 上具有极小化极大意义下的最优性。

关键词

引用

@article{arxiv.2403.07735,
  title  = {The Minimax Rate of HSIC Estimation for Translation-Invariant Kernels},
  author = {Florian Kalinke and Zoltan Szabo},
  journal= {arXiv preprint arXiv:2403.07735},
  year   = {2024}
}

备注

Accepted for publication at NeurIPS 2024