泛化 GNN 中的聚合函数:基于非线性邻域聚合器的高容量 GNN
机器学习
2022-02-21 v1 计算机视觉与模式识别
摘要
图神经网络(GNN)在许多图学习任务中取得了巨大成功。驱动现有 GNN 的主要方面是用于学习特定任务的非线性图表示的多层网络架构。GNN 中的核心操作是消息传播,其中每个节点通过聚合其邻居的表示来更新自身的表示。现有的 GNN 在其消息传播中主要采用线性邻域聚合(均值、求和)或最大值聚合器。(1) 对于线性聚合器,由于较深的 GNN 通常会受到过平滑问题的影响,GNN 的整体非线性和网络容量通常受到限制。(2) 对于最大值聚合器,它通常无法感知邻域内节点表示的详细信息。为了克服这些问题,我们重新思考了 GNN 中的消息传播机制,旨在为 GNN 中的邻域信息聚合开发通用的非线性聚合器。我们提出的非线性聚合器的一个主要方面是,它们在最大值聚合和均值/求和聚合之间提供了最优平衡的聚合器。因此,我们的聚合器可以在 GNN 的消息传播中同时继承 (i) 增加网络容量的高非线性 和 (ii) 保留表示详细信息的细节敏感性。在多个数据集上的实验表明了所提出的非线性聚合器的有效性。
引用
@article{arxiv.2202.09145,
title = {Generalizing Aggregation Functions in GNNs:High-Capacity GNNs via Nonlinear Neighborhood Aggregators},
author = {Beibei Wang and Bo Jiang},
journal= {arXiv preprint arXiv:2202.09145},
year = {2022}
}