长程图基准
机器学习
2023-11-29 v4
摘要
基于消息传递(MP)范式的图神经网络(GNNs)通常在每一层于 1-跳邻居间交换信息以构建节点表示。原则上,此类网络无法捕获学习给定图任务所需或必要的长程交互(LRI)。近来,基于 Transformer 的图方法日益受到关注,其可超越原始稀疏结构考虑全节点连接,从而实现对 LRI 的建模。然而,仅依赖 1-跳消息传递的 MP-GNNs 在结合位置特征表示等创新后,往往在若干现有图基准中表现更优,从而限制了类 Transformer 架构的感知效用与排名。在此,我们提出长程图基准(LRGB),包含 5 个图学习数据集:PascalVOC-SP、COCO-SP、PCQM-Contact、Peptides-func 和 Peptides-struct,这些数据集可谓需要 LRI 推理以在给定任务中取得强劲表现。我们对基线 GNNs 和图 Transformer 网络进行基准测试,证实捕获长程依赖的模型在这些任务上显著更优。因此,这些数据集适用于基准测试与探索旨在捕获 LRI 的 MP-GNNs 和图 Transformer 架构。
引用
@article{arxiv.2206.08164,
title = {Long Range Graph Benchmark},
author = {Vijay Prakash Dwivedi and Ladislav Rampášek and Mikhail Galkin and Ali Parviz and Guy Wolf and Anh Tuan Luu and Dominique Beaini},
journal= {arXiv preprint arXiv:2206.08164},
year = {2023}
}
备注
Added reference to T\"onshoff et al., 2023 in Sec. 4.1; NeurIPS 2022 Track on D&B; Open-sourced at: https://github.com/vijaydwivedi75/lrgb