GraphSAINT:一种基于图采样的归纳学习方法
机器学习
2020-02-18 v4 机器学习
摘要
图卷积网络(GCNs)是用于学习属性图表示的强大模型。为了将 GCN 扩展到大型图,最先进的方法使用各种层采样技术来缓解小批量训练期间的“邻居爆炸”问题。我们提出 GraphSAINT,一种基于图采样的归纳学习方法,以根本不同的方式提高训练效率和准确率。通过改变视角,GraphSAINT 通过采样训练图来构建小批量,而不是跨 GCN 层采样节点或边。每次迭代,从适当采样的子图构建完整的 GCN。因此,我们确保所有层中具有固定数量且连接良好的节点。我们进一步提出归一化技术以消除偏差,以及用于方差缩减的采样算法。重要的是,我们可以将采样与前向和反向传播解耦,并用许多架构变体(例如图注意力、跳跃连接)扩展 GraphSAINT。GraphSAINT 在五个大型图上展现了准确率和训练时间的优越性能,并为 PPI(0.995)和 Reddit(0.970)取得了新的最先进 F1 分数。
引用
@article{arxiv.1907.04931,
title = {GraphSAINT: Graph Sampling Based Inductive Learning Method},
author = {Hanqing Zeng and Hongkuan Zhou and Ajitesh Srivastava and Rajgopal Kannan and Viktor Prasanna},
journal= {arXiv preprint arXiv:1907.04931},
year = {2020}
}
备注
Published at ICLR 2020; Code release: github.com/GraphSAINT/GraphSAINT