中文

DiffWire:基于Lovász界的归纳式图重连

机器学习 2023-03-07 v3 人工智能

摘要

图神经网络(GNNs)已被证明能在多种领域中获得具有竞争力的结果,以处理图相关任务,如节点与图分类、链接预测以及节点与图聚类。大多数GNN使用消息传递框架,因此被称为MPNNs。尽管结果可观,但已有报告指出MPNNs存在过平滑、过压缩与欠可达的问题。文献中已提出图重连与图池化作为解决这些局限的方案。然而,大多数最先进的图重连方法无法保持图的全局拓扑,既不可微也非归纳式,且需要调节超参数。本文中,我们提出DiffWire,一种用于MPNNs中图重连的新框架,其借助Lovász界而具有原理性、完全可微且无参数。所提方法通过提出MPNNs中两个新的互补层,为图重连提供了统一理论:CT-Layer,一个学习通勤时间并将其用作边重加权相关性函数的层;以及GAP-Layer,一个根据网络性质与手头任务优化谱间隙的层。我们基于图分类的基准数据集,分别实证验证了每一层的价值。我们还对CT-Layer在同配与异配节点分类任务中的使用进行了初步研究。DiffWire将通勤时间的可学习性与曲率的有关定义结合起来,为创建更具表达力的MPNNs打开了大门。

关键词

引用

@article{arxiv.2206.07369,
  title  = {DiffWire: Inductive Graph Rewiring via the Lov\'asz Bound},
  author = {Adrian Arnaiz-Rodriguez and Ahmed Begga and Francisco Escolano and Nuria Oliver},
  journal= {arXiv preprint arXiv:2206.07369},
  year   = {2023}
}

备注

27 pages, 24 figures and 6 tables. Accepted at Learning on Graphs Conference 2022. A. Arnaiz-Rodriguez et al., DiffWire: Inductive Graph Rewiring via the Lov\'asz Bound. Proceedings of the First Learning on Graphs Conference (LoG 2022), PMLR 198, Virtual Event, December, 2022