中文

利用控制变量法改进 Tug-of-War 草图

机器学习 2022-03-07 v1 数据结构与算法

摘要

计算大规模数据的空间高效摘要(亦称草图,sketches)是流算法中的核心问题。此类草图用于回答若干数据分析任务中的事后查询。计算草图的算法通常要求快速、准确且空间高效。流算法框架中的一个基本问题是计算数据流的频率矩。对于包含 fif_i 个类型为 ii 的元素的序列,其频率矩为 Fk=i=1nfik,\mathbf{F}_k=\sum_{i=1}^n {f_i}^k,,其中 i[n]i\in [n]。这也被称为频率向量 (f1,f2,fn)(f_1, f_2, \ldots f_n)k\ell_k 范数。另一个重要问题是通过计算相应频率向量的内积来衡量两个数据流之间的相似性。Alon、Matias 和 Szegedy 的开创性工作(即 Tug-of-War(或 AMS)草图)给出了一种随机化亚线性空间(及线性时间)算法,用于计算频率矩以及对应于数据流的两个频率向量之间的内积。然而,这些估计的方差通常偏大。在本工作中,我们致力于最小化这些估计的方差。我们采用了经典控制变量法(Control-Variate method)的技术,该方法主要以蒙特卡洛模拟中的方差缩减而著称,从而能够以少许计算开销为代价获得显著的方差缩减。我们对所提方案进行了理论分析,并在合成及真实世界数据集上辅以支撑性实验。

关键词

引用

@article{arxiv.2203.02432,
  title  = {Improving \textit{Tug-of-War} sketch using Control-Variates method},
  author = {Rameshwar Pratap and Bhisham Dev Verma and Raghav Kulkarni},
  journal= {arXiv preprint arXiv:2203.02432},
  year   = {2022}
}