PartitionedVC:面向 SSD 的分区外存图分析框架
分布式、并行与集群计算
2020-02-12 v2
摘要
图分析处于药物发现、网页排名和推荐系统等一系列广泛应用的核心。当图规模超过内存大小时,需要进行核外图处理。对于广泛使用的外存图处理系统,访问存储成为瓶颈。我们观察到,几乎所有图算法在每次迭代中都有动态变化数量的活跃顶点需要处理。然而,现有的图处理框架(如 GraphChi)即使在图中只有一小部分活跃时,也会在每次迭代中加载整个图。这一局限源于这些系统所使用的数据存储结构。在本工作中,我们提出使用基于压缩稀疏行(CSR)的图存储,其更便于在每次迭代中仅选择性加载少数活跃顶点。但基于 CSR 的系统存在向许多目标顶点随机传播更新的问题。为解决这一挑战,我们提出使用多日志更新机制,将更新分开记录,而非直接更新图中的活跃边。我们提出的多日志系统为每个顶点区间维护一个独立的日志。这种分离使我们能够通过仅加载相应日志来高效处理每个顶点区间。此外,在以较少活跃顶点数据访问 SSD 页面时,我们通过记录当前迭代中的活跃顶点数据并在下一次迭代中高效读取该日志,降低了 SSD 中因页面粒度访问导致的读放大。相较于当前最先进的核外图处理框架,我们的 PartitionedVC 在广泛使用的 bfs、pagerank、社区发现、图着色、最大独立集和随机游走应用上分别实现了高达 、、、、 和 的性能提升。
引用
@article{arxiv.1905.04264,
title = {PartitionedVC: Partitioned External Memory Graph Analytics Framework for SSDs},
author = {Kiran Kumar Matam and Hanieh Hashemi and Murali Annavaram},
journal= {arXiv preprint arXiv:1905.04264},
year = {2020}
}
备注
13 pages