中文

使用MapReduce计算边际

数据库 2015-09-30 v1

摘要

我们考虑使用一轮 MapReduce 计算固定阶数 kk 的数据立方体边际(即所有在 kk 个维度上聚合的边际)的问题。重点在于归约器大小(单个归约器允许的输入数量)与复制率(一个输入被发送到的归约器数量)之间的关系。我们表明,当归约器接收到计算一个更高阶边际所需的全部输入时,复制率被最小化。该观察使我们能够将问题视为用大小为 mm 的更大集合覆盖 kk 维集合的问题,这一问题以“覆盖数(covering numbers)”之名被研究。我们提供了若干构造,对于不同的 kkmm 值,这些构造达到或接近给定归约器大小下的最小可能复制率。

关键词

引用

@article{arxiv.1509.08855,
  title  = {Computing Marginals Using MapReduce},
  author = {Foto Afrati and Shantanu Sharma and Jeffrey D. Ullman and Jonathan R. Ullman},
  journal= {arXiv preprint arXiv:1509.08855},
  year   = {2015}
}