比较分布:$\ell_1$ 几何改进核两样本检验
机器学习
2019-10-02 v2 机器学习
摘要
两组观测值是否来自同一分布?这个问题是一个两样本检验问题。核方法带来了许多吸引人的性质。事实上,最先进的方法使用基于核的分布代表之间的 距离来推导其检验统计量。在此,我们证明这些分布代表之间的 距离()给出了分布空间上的度量,这些度量在检测分布间差异方面表现良好,因为它们度量了弱收敛。此外,对于解析核,我们证明 几何为可扩展的计算过程提供了更高的检验功效。具体来说,我们推导了该度量的有限维近似,其形式为一个向量的 范数,该向量捕获了在空间位置或频率(即特征)上评估的解析函数期望的差异。这些特征可以被选择以最大化分布间的差异,并给出关于它们如何不同的可解释指示。使用 范数能提供更好的检测能力,因为当我们使用解析核(几乎处处非零)时,代表之间的差异是稠密的。这些检验是一致的,同时比最先进的二次时间核检验快得多。在人工和真实世界问题上的实验表明,与基于 范数的最先进方法相比,该方法在功效/时间权衡上有所改进,并且在某些情况下,其绝对功效甚至优于最昂贵的二次时间检验。
引用
@article{arxiv.1909.09264,
title = {Comparing distributions: $\ell_1$ geometry improves kernel two-sample testing},
author = {M. Scetbon and G. Varoquaux},
journal= {arXiv preprint arXiv:1909.09264},
year = {2019}
}