离线与流式核心集构建的新框架

点集的核心集是一个带权重的小子集，能近似保留原集的重要性质。具体而言，如果 $P$ 是一个点集，$Q$ 是一个查询集，且 $f:P\times Q\to\mathbb{R}$ 是一个代价函数，那么对于某个参数 $\epsilon>0$，一个带有权重 $w:P\to[0,\infty)$ 的集合 $S\subseteq P$ 是 $\epsilon$-核心集，如果对于所有 $q\in Q$，$\sum_{s\in S}w(s)f(s,q)$ 是 $\sum_{p\in P}f(p,q)$ 的 $(1+\epsilon)$ 乘法近似。核心集被用于解决各种大数据计算模型下机器学习中的基本问题。近十年提出的许多核心集已经使用或本可以使用一种通用框架来构建核心集，其大小与所谓的总敏感度 $t$ 呈二次依赖关系。在本文中，我们将此界限从 $O(t^2)$ 改进为 $O(t\log t)$。因此，我们的结果意味着许多问题（包括投影聚类、$k$-线聚类和子空间近似）具有更高的空间效率解决方案。此外，我们将敏感度采样的概念推广到支持非乘法近似、负代价函数等的上采样。主要技术结果是对具有有界 VC 维的一类函数的样本复杂度的通用归约。我们表明，获得具有适当参数 $\nu$ 和 $\alpha$ 的此类函数的 $(\nu,\alpha)$-样本足以实现空间高效的 $\epsilon$-核心集。我们的结果意味着机器学习中许多有趣问题的更高效的核心集构建；我们展示了在 $k$-中心点/$k$-均值、$k$-线聚类、$j$-子空间近似以及整数 $(j,k)$-投影聚类问题上的应用。