图神经网络中的网络
机器学习
2021-11-24 v1
摘要
图神经网络（GNNs）已在包含节点/边特征信息的图结构数据学习中展现出成功，应用于社交网络、推荐、欺诈检测和知识图谱推理。为此，过去已提出多种策略来提升 GNN 的表达能力。例如，一个直接的选项是简单地通过扩展隐藏维度或增加 GNN 层数来增大参数规模。然而，更宽的隐藏层容易导致过拟合，而逐步添加更多 GNN 层可能引发过平滑。在本文中，我们提出一种模型无关的方法，即图神经网络中的网络（NGNN），它允许任意 GNN 模型通过加深模型来提升模型容量。不过，NGNN 并非添加或拓宽 GNN 层，而是在每个 GNN 层内部插入非线性前馈神经网络层来加深 GNN 模型。将 NGNN 应用于 ogbn-products 数据上的 GraphSage 基 GNN 的分析表明，它能使模型在节点特征或图结构扰动下保持稳定。此外，在节点分类和链接预测任务上的广泛评估结果显示，NGNN 在各种 GNN 架构中均能可靠工作。例如，它将 GraphSage 在 ogbn-products 上的测试准确率提升了 1.6%，将 SEAL 在 ogbl-ppa 上的 hits@100 分数提升了 7.08%，将 GraphSage+Edge-Attr 在 ogbl-ppi 上的 hits@20 分数提升了 6.22%。在提交本文时，它在 OGB 链接预测排行榜上取得了两个第一名。
引用
@article{arxiv.2111.11638,
title = {Network In Graph Neural Network},
author = {Xiang Song and Runjie Ma and Jiahang Li and Muhan Zhang and David Paul Wipf},
journal= {arXiv preprint arXiv:2111.11638},
year = {2021}
}