中文

通过在消息传递中注入池化来增强图神经网络

机器学习 2022-02-11 v1 人工智能

摘要

图神经网络领域取得了巨大成功,这得益于消息传递层的发展,该层通过将节点与其邻居结合来更新节点表示,以处理大小可变且无序的图。尽管消息传递图神经网络取得了丰硕的进展,但当节点表示变得过于相似甚至无法区分时,其性能可能会受到过度平滑的影响。此外,据报道,随着图神经网络层数的增加,内在的图结构会被平滑掉。受图像处理中使用的保边双边滤波器启发,我们提出了一种新的、适应性强且强大的消息传递框架来防止过度平滑。我们的双边消息传递通过利用节点的类别信息来估计成对模块化梯度,并在应用聚合函数时通过使用该梯度进一步保留全局图结构。我们提出的方案可以推广到所有普通的消息传递图神经网络。使用四种最先进的消息传递图神经网络在五个中等规模基准数据集上进行的实验表明,双边消息传递通过缓解过度平滑来提高性能。通过检查定量测量,我们进一步验证了所提出机制在防止过度平滑问题方面的有效性。

关键词

引用

@article{arxiv.2202.04768,
  title  = {Boosting Graph Neural Networks by Injecting Pooling in Message Passing},
  author = {Hyeokjin Kwon and Jong-Min Lee},
  journal= {arXiv preprint arXiv:2202.04768},
  year   = {2022}
}

备注

12 pages, 2 figures