深度图神经网络评估
机器学习
2021-08-03 v1 人工智能
摘要
图神经网络（GNNs）已广泛应用于各类图挖掘任务。然而，它们受限于浅层架构问题，这是阻碍模型性能提升的关键障碍。尽管已有若干相关方法提出，现有研究均未深入剖析深度 GNN 性能退化的根本原因。本文开展首项系统性实验评估，揭示浅层架构的根本局限。基于实验结果，我们回答以下两个核心问题：（1）深度 GNN 性能受损的实际成因；（2）何时需要及如何构建深度 GNN。上述问题的答案为研究者设计深度且高性能 GNN 提供了经验见解与指导。为验证所提指导的有效性，我们提出深度图多层感知机（DGMLP），一种有力方法（本身即一种范式），可指导深度 GNN 设计。实验结果显示 DGMLP 三大优势：1）高精度——在多个数据集上取得最先进的节点分类性能；2）高灵活性——可根据图规模与稀疏度灵活选择不同传播与变换深度；3）高可扩展性与效率——支持大规模图上的快速训练。代码见 https://github.com/zwt233/DGMLP。
引用
@article{arxiv.2108.00955,
title = {Evaluating Deep Graph Neural Networks},
author = {Wentao Zhang and Zeang Sheng and Yuezihan Jiang and Yikuan Xia and Jun Gao and Zhi Yang and Bin Cui},
journal= {arXiv preprint arXiv:2108.00955},
year = {2021}
}
备注
14 pages, 14 figures, 7 tables