平移不变核 HSIC 估计的极小化极大速率
统计理论
2024-10-15 v2 信息论
机器学习
math.IT
机器学习
统计理论
摘要
核技术是数据科学和统计学中最具影响力的方法之一。在温和条件下,与核相关的再生核 Hilbert 空间能够编码 个随机变量的独立性。依赖核的最普遍的独立性度量可能是所谓的 Hilbert-Schmidt 独立性准则(HSIC;在统计学文献中也称为距离协方差)。尽管自其约二十年前提出以来已有多种 HSIC 估计器,但关于 HSIC 能以何种速率被估计的基本问题仍未解决。在本工作中,我们证明了在 上,对于包含高斯分布的 Borel 测度以及连续有界平移不变特征核,HSIC 估计的极小化极优速率为 。具体而言,我们的结果意味着许多最常用的估计器(包括 U-统计量、V-统计量和基于 Nystr"om 的估计器)在 上具有极小化极大意义下的最优性。
引用
@article{arxiv.2403.07735,
title = {The Minimax Rate of HSIC Estimation for Translation-Invariant Kernels},
author = {Florian Kalinke and Zoltan Szabo},
journal= {arXiv preprint arXiv:2403.07735},
year = {2024}
}
备注
Accepted for publication at NeurIPS 2024