中文

Count Sketch 的卷积与互相关实现多连接查询的快速基数估计

数据库 2024-05-16 v3

摘要

随着关键系统生成数据速率的增加,估计流数据上的函数变得至关重要。这种需求推动了众多算法的进步,这些算法旨在在内存受限的情况下有效地查询和分析一个或多个数据流。主要挑战源于新项目的快速涌入,需要能够实现流的高效增量处理的算法以跟上节奏。该领域的一个突出算法是 AMS sketch。它最初旨在估计数据流的二阶频率矩,也可以估计两个关系之间等值连接的基数。此后,两个重要的进展是 Count sketch,这是一种显著改善 sketch 更新时间的方​​法,其次是 AMS sketch 的扩展以适应多连接查询。然而,结合这些方法的优势来维护多连接查询的 sketch 同时确保快速更新时间是一项非平凡的任务,并且正如现有文献所强调的那样,几十年来一直是一个未解决的问题。在这项工作中,我们通过引入一种新的 sketching 方法成功解决了这个问题,该方法具有快速更新能力,甚至适用于能够准确估计复杂多连接查询基数的 sketch。我们证明了我们的估计量是无偏的,并且具有与基于 AMS 的方法相同的误差保证。我们的实验结果证实了更新时间复杂度的显著改进,从而实现了数量级更快的估计,同时具有相等或更好的估计精度。

关键词

引用

@article{arxiv.2402.15953,
  title  = {Convolution and Cross-Correlation of Count Sketches Enables Fast Cardinality Estimation of Multi-Join Queries},
  author = {Mike Heddes and Igor Nunes and Tony Givargis and Alex Nicolau},
  journal= {arXiv preprint arXiv:2402.15953},
  year   = {2024}
}

备注

Accepted at the International Conference on Management of Data 2024