任意形状高斯混合模型的核集
机器学习
2019-06-13 v1 机器学习
摘要
给定个点集合的-核集通常是一个小的带权集合,使得对该核集的查询可证明地对原(完整)数据集给出因子近似,针对给定查询族。利用现有技术,核集可在流数据、动态(插入/删除)数据以及并行分布式数据(如网络、GPU或云上)中维护。我们提出首个近似高斯混合模型(GMM)负对数似然的核集,其形状任意(协方差矩阵特征值之比任意)。例如,对任意坐标为中整数且任意固定的输入集,核集大小为,且可以高概率在近乎线性于的时间内算出。随后可通过学习该小核集快速近似最优GMM。先前结果[NIPS'11, JMLR'18]针对半球面单位高斯(即对应特征值在到间为常数)给出了此类小核集。我们的主要技术是将-GMM核集与投影聚类问题间进行归约。我们实现了算法,提供开源代码及实验结果。由于我们的核集是通用的,对GMM无特殊依赖,希望其能用于许多其他函数。
引用
@article{arxiv.1906.04895,
title = {Coresets for Gaussian Mixture Models of Any Shape},
author = {Dan Feldman and Zahi Kfir and Xuan Wu},
journal= {arXiv preprint arXiv:1906.04895},
year = {2019}
}