基于子图草图的图神经网络链接预测
机器学习
2023-05-03 v3 信息检索
摘要
许多图神经网络(GNNs)在链接预测(LP)任务上相比简单启发式方法表现不佳。这是由于表达能力的局限,例如无法计数三角形(大多数 LP 启发式的支柱)以及无法区分自同构节点(具有完全相同结构角色的节点)。这两种表达能力问题都可以通过学习链接(而非节点)表示并融入三角形计数等结构特征来缓解。由于显式链接表示通常成本高昂得令人望而却步,近期工作诉诸基于子图的方法,其在 LP 上取得了最先进的性能,但由于子图间高度冗余而导致效率低下。我们分析了用于链接预测的子图 GNN(SGNN)方法的组成部分。基于我们的分析,我们提出了一种称为 ELPH(Efficient Link Prediction with Hashing,基于哈希的高效链接预测)的新型全图 GNN,它将子图草图作为消息传递,以近似 SGNN 的关键组成部分而无需显式构建子图。ELPH 被证明比消息传递 GNN(MPNNs)更具表达能力。它在许多标准 LP 基准上优于现有 SGNN 模型,同时速度快几个数量级。然而,它有着常见 GNN 的局限,即仅当数据集能放入 GPU 内存时才高效。相应地,我们开发了一个高度可扩展的模型,称为 BUDDY,它使用特征预计算来规避该局限而不牺牲预测性能。我们的实验表明,BUDDY 在标准 LP 基准上也优于 SGNN,同时高度可扩展且比 ELPH 更快。
引用
@article{arxiv.2209.15486,
title = {Graph Neural Networks for Link Prediction with Subgraph Sketching},
author = {Benjamin Paul Chamberlain and Sergey Shirobokov and Emanuele Rossi and Fabrizio Frasca and Thomas Markovich and Nils Hammerla and Michael M. Bronstein and Max Hansmire},
journal= {arXiv preprint arXiv:2209.15486},
year = {2023}
}
备注
29 pages, 19 figures, 6 appendices