Neighbor2Seq:通过将邻居转换为序列对大规模图进行深度学习
机器学习
2022-02-08 v1
摘要
现代图神经网络(GNNs)采用消息传递机制,并在许多领域取得了巨大成功。然而,这种递归设计固有地导致计算和内存需求过高,使其不适用于大规模真实世界图。在本文中,我们提出 Neighbor2Seq,将每个节点的层次化邻域转换为序列。这一新颖转换使得后续针对类网格数据设计的通用深度学习操作(如卷积和注意力机制)能够进行小批量训练,这些操作已在各领域展现出强大能力。因此,我们的 Neighbor2Seq 通过预计算 Neighbor2Seq 转换,自然赋予 GNNs 在类网格数据上深度学习操作的效率与优势。我们在一个包含超过 1.11 亿节点和 16 亿边的大规模图以及几个中等规模图上评估了我们的方法。结果表明,我们所提方法可扩展至大规模图,并在大规模与中等规模图上均取得优越性能。我们的代码见 https://github.com/divelab/Neighbor2Seq。
引用
@article{arxiv.2202.03341,
title = {Neighbor2Seq: Deep Learning on Massive Graphs by Transforming Neighbors to Sequences},
author = {Meng Liu and Shuiwang Ji},
journal= {arXiv preprint arXiv:2202.03341},
year = {2022}
}
备注
Accepted by SDM2022