有序图神经网络：通过排序消息传递应对异配性与过平滑问题
机器学习
2023-02-06 v1
摘要
大多数图神经网络遵循消息传递机制。然而，当对图施加多次消息传递时，该机制面临过平滑问题，导致节点表示不可区分，并阻碍模型有效学习较远节点间的依赖关系。另一方面，具有不同标签的邻居节点特征可能被错误混合，从而引发异配性问题。在本工作中，我们提出将传入节点表示的消息进行排序，以特定神经元块专门负责特定跳数范围内的消息传递。这通过将中心节点的根树层次结构与其节点表示中的有序神经元对齐来实现。在大量数据集上的实验结果表明，我们的模型无需任何针对性设计，即可在同配与异配设定下同时达到最先进水平。此外，当模型变得非常深时，其性能保持良好，有效防止了过平滑问题。最后，对门控向量的可视化显示，我们的模型学会在同配与异配设定下表现出不同行为，提供了一种可解释的图神经网络模型。
引用
@article{arxiv.2302.01524,
title = {Ordered GNN: Ordering Message Passing to Deal with Heterophily and Over-smoothing},
author = {Yunchong Song and Chenghu Zhou and Xinbing Wang and Zhouhan Lin},
journal= {arXiv preprint arXiv:2302.01524},
year = {2023}
}
备注
Published as a conference paper at ICLR 2023