中文

FastMMD:用于高效双样本检验的圆差异集成

人工智能 2015-06-19 v2 机器学习 机器学习

摘要

最大均值差异(MMD)是近期提出的一种用于双样本检验的检验统计量。然而,其二次时间复杂度极大地限制了其在大规模应用中的可用性。为加速 MMD 计算,本研究提出了一种称为 FastMMD 的高效方法。FastMMD 的核心思想是基于 Bochner 定理和傅里叶变换(Rahimi & Recht, 2007),将具有平移不变核的 MMD 等价变换为正弦分量线性组合的幅度期望。利用傅里叶变换的采样优势,FastMMD 将 MMD 计算的时间复杂度从 O(N2d)O(N^2 d) 降低至 O(LNd)O(L N d),其中 NNdd 分别为样本集的大小和维度。此处 LL 是用于近似核的基函数数量,决定了近似精度。对于球对称不变核,利用 Fastfood 技术(Le et al., 2013)可将计算进一步加速至 O(LNlogd)O(L N \log d)。我们在无偏和有偏估计两种情况下,从理论上证明了该方法的均匀收敛性。我们还为该方法的几何解释提供了说明,即圆差异集成,这有助于我们理解 MMD 的内在机理,并有望激发更多用于评估双样本检验的广泛度量。实验结果证实,FastMMD 具有与精确 MMD 相似的精度,同时比现有的 MMD 近似方法具有更快的计算速度和更低的方差。

关键词

引用

@article{arxiv.1405.2664,
  title  = {FastMMD: Ensemble of Circular Discrepancy for Efficient Two-Sample Test},
  author = {Ji Zhao and Deyu Meng},
  journal= {arXiv preprint arXiv:1405.2664},
  year   = {2015}
}