近似 GMM 核的 Nyström 方法
机器学习
2016-07-13 v1 机器学习
摘要
GMM（广义极小极大）核最近被提出（Li, 2016）作为一种数据相似性度量，并在机器学习任务中被证明是有效的。为了在大规模数据集中使用 GMM 核，先前的工作采用（广义）一致性加权采样（GCWS）将 GMM 核转换为线性核。我们将此方法称为“GMM-GCWS”。在机器学习文献中，有一种流行的算法我们称之为“RBF-RFF”。即，可以使用“随机傅里叶特征”（RFF）将“径向基函数”（RBF）核转换为线性核。（Li, 2016）中的经验表明，为了达到相当的精度，RBF-RFF 通常需要比 GMM-GCWS 多得多的样本。Nyström 方法是计算非线性核的一种通用工具，它同样将非线性核转换为线性核。我们将 Nyström 方法应用于近似 GMM 核，并将此策略命名为“GMM-NYS”。在本研究中，我们在一组相当大的数据集上进行的大量实验证实，GMM-NYS 也是 RBF-RFF 的一个强劲竞争对手。
引用
@article{arxiv.1607.03475,
title = {Nystrom Method for Approximating the GMM Kernel},
author = {Ping Li},
journal= {arXiv preprint arXiv:1607.03475},
year = {2016}
}