FastMMD:用于高效双样本检验的圆差异集成
人工智能
2015-06-19 v2 机器学习
机器学习
摘要
最大均值差异(MMD)是近期提出的一种用于双样本检验的检验统计量。然而,其二次时间复杂度极大地限制了其在大规模应用中的可用性。为加速 MMD 计算,本研究提出了一种称为 FastMMD 的高效方法。FastMMD 的核心思想是基于 Bochner 定理和傅里叶变换(Rahimi & Recht, 2007),将具有平移不变核的 MMD 等价变换为正弦分量线性组合的幅度期望。利用傅里叶变换的采样优势,FastMMD 将 MMD 计算的时间复杂度从 降低至 ,其中 和 分别为样本集的大小和维度。此处 是用于近似核的基函数数量,决定了近似精度。对于球对称不变核,利用 Fastfood 技术(Le et al., 2013)可将计算进一步加速至 。我们在无偏和有偏估计两种情况下,从理论上证明了该方法的均匀收敛性。我们还为该方法的几何解释提供了说明,即圆差异集成,这有助于我们理解 MMD 的内在机理,并有望激发更多用于评估双样本检验的广泛度量。实验结果证实,FastMMD 具有与精确 MMD 相似的精度,同时比现有的 MMD 近似方法具有更快的计算速度和更低的方差。
引用
@article{arxiv.1405.2664,
title = {FastMMD: Ensemble of Circular Discrepancy for Efficient Two-Sample Test},
author = {Ji Zhao and Deyu Meng},
journal= {arXiv preprint arXiv:1405.2664},
year = {2015}
}