中文

具有可证明圈计数能力的距离受限民间 Weisfeiler-Leman 图神经网络

机器学习 2024-01-12 v3

摘要

图神经网络(GNNs)计数特定图子结构(尤其是圈)的能力,对于 GNNs 在广泛任务上的成功至关重要。它近来被用作评估 GNNs 表达能力的流行指标。许多具有可证明圈计数能力的已提出 GNN 模型基于子图 GNNs,即从输入图中提取一袋子图,为每个子图生成表示,并用它们来增强输入图的表示。然而,这些方法需要繁重的预处理,且面临高时间与内存开销。在本文中,我们通过提出一类新颖的 GNNs——dd-距离受限 FWL(2) GNNs,或 dd-DRFWL(2) GNNs,克服了子图 GNNs 的上述局限。dd-DRFWL(2) GNNs 使用相互距离至多为 dd 的节点对作为消息传递单元,以平衡表达能力与复杂度。通过在原始图中于距离受限的节点对间执行消息传递,dd-DRFWL(2) GNNs 避免了子图 GNNs 中昂贵的子图提取操作,使时间与空间复杂度均更低。我们从理论上表明 dd-DRFWL(2) GNNs 的判别能力随 dd 增大而严格增强。更重要的是,即便 d=2d=2dd-DRFWL(2) GNNs 也具有可证明的强圈计数能力:它们能计数所有 3、4、5、6-圈。由于 6-圈(如苯环)在有机分子中无处不在,能够检测并计数它们对于在分子任务上实现鲁棒且可泛化的性能至关重要。在合成数据集与分子数据集上的实验验证了我们的理论。据我们所知,我们的模型是迄今最高效的(在理论与经验上)可计数至 6-圈的 GNN 模型。

关键词

引用

@article{arxiv.2309.04941,
  title  = {Distance-Restricted Folklore Weisfeiler-Leman GNNs with Provable Cycle Counting Power},
  author = {Junru Zhou and Jiarui Feng and Xiyuan Wang and Muhan Zhang},
  journal= {arXiv preprint arXiv:2309.04941},
  year   = {2024}
}