利用可学习传播算子改进图神经网络
机器学习
2023-05-08 v2
摘要
图神经网络（GNNs）的传播算子存在局限。在许多情况下，这些算子仅含非负元素且跨通道共享，限制了 GNN 的表达能力。此外，一些 GNN 存在过平滑问题，限制了其深度。另一方面，卷积神经网络（CNNs）能够学习多样化的传播滤波器，且过平滑现象在 CNN 中通常不明显。本文通过引入可训练的通道级加权因子 来学习和混合每层的多个平滑与锐化传播算子，从而弥合这些差距。我们的通用方法称为 GNN，且易于实现。我们研究了两种变体：GCN 和 GAT。对于 GCN，我们理论分析了其行为以及 对所得节点特征的影响。我们的实验证实了这些发现，展示并解释了两种变体如何不发生过平滑。此外，我们在 15 个真实数据集上进行了节点和图分类任务实验，我们的 GCN 和 GAT 表现与最先进方法相当。
引用
@article{arxiv.2210.17224,
title = {Improving Graph Neural Networks with Learnable Propagation Operators},
author = {Moshe Eliasof and Lars Ruthotto and Eran Treister},
journal= {arXiv preprint arXiv:2210.17224},
year = {2023}
}
备注
Accepted to the International Conference on Machine Learning (ICML) 2023