中文

积分概率度量遇上神经网络:Radon-Kolmogorov-Smirnov 检验

计算机视觉与模式识别 2023-09-06 v1

摘要

积分概率度量(IPMs)构成一类通用的非参数双样本检验,其基于在某一函数空间 F\mathcal{F} 中的所有数据变换 ff 上,最大化来自分布 PP 与另一分布 QQ 的样本均值差。受近期将所谓 Radon 有界变分\textit{Radon 有界变分}(RBV)函数与神经网络相联系的工作(Parhi 与 Nowak,2021,2023)启发,我们研究取 F\mathcal{F} 为给定光滑度阶 k0k \geq 0 的 RBV 空间单位球时所定义的 IPM。该检验我们称之为 Radon-Kolmogorov-Smirnov\textit{Radon-Kolmogorov-Smirnov}(RKS)检验,可视为经典 Kolmogorov-Smirnov(KS)检验向多维与更高光滑度阶的推广。它也与神经网络密切相关:我们证明 RKS 检验中的见证函数——达到最大均值差的函数 ff——总是一个 kk 阶脊样条,即神经网络中的单个神经元。因此我们可利用现代神经网络优化工具包来(近似)最大化 RKS 检验背后的准则。我们证明 RKS 检验在区分任意不同的分布对 PQP \not= Q 时具有渐近全功效,推导其渐近零分布,并通过实验阐明 RKS 检验相较于更传统的核 MMD 检验的优劣。

关键词

引用

@article{arxiv.2309.02423,
  title  = {EgoPCA: A New Framework for Egocentric Hand-Object Interaction Understanding},
  author = {Yue Xu and Yong-Lu Li and Zhemin Huang and Michael Xu Liu and Cewu Lu and Yu-Wing Tai and Chi-Keung Tang},
  journal= {arXiv preprint arXiv:2309.02423},
  year   = {2023}
}

备注

ICCV 2023