图神经网络应用中全局结构信息的影响
机器学习
2022-01-19 v2 社会与信息网络
机器学习
摘要
图神经网络(GNNs)依赖于图结构来定义聚合策略,其中每个节点通过组合来自其邻居的信息来更新其表示。GNNs 的一个已知局限是,随着层数增加,信息被平滑和压缩,节点嵌入变得不可区分,从而对性能产生负面影响。因此,实用的 GNN 模型采用较少的层,仅利用每个节点周围有限的小邻域的图结构。不可避免地,实用的 GNN 无法捕获依赖于图全局结构的信息。尽管已有若干研究探讨 GNN 的局限性与表达能力,但图结构数据上的实际应用是否需要全局结构知识这一问题仍悬而未决。在这项工作中,我们通过向多个 GNN 模型提供全局信息并观察其对下游性能的影响,从经验上回答了该问题。我们的结果表明,全局信息实际上可以为常见的图相关任务带来显著收益。我们进一步提出了一种新颖的正则化策略,在所有考虑的任务上实现了平均准确率提升超过 5%。
引用
@article{arxiv.2006.03814,
title = {The Impact of Global Structural Information in Graph Neural Networks Applications},
author = {Davide Buffelli and Fabio Vandin},
journal= {arXiv preprint arXiv:2006.03814},
year = {2022}
}