图神经网络实际表达能力的实证研究
机器学习
2024-06-04 v4 人工智能
摘要
关于图神经网络(GNNs)理论表达力的研究发展迅速,许多增强表达力的方法被提出。然而,除少数严格遵循维Weisfeiler-Lehman(-WL)检验层级的方法外,大多数方法缺乏统一的表达力度量,导致难以定量比较其表达力。先前研究尝试使用数据集进行度量,但面临难度(任何超越1-WL的模型准确率近乎100%)、粒度(模型倾向于100%正确或接近随机猜测)和规模(仅涉及若干本质不同的图)的问题。为克服这些局限,我们利用一种新颖的表达力数据集BREC研究实际模型实例所能达到的实际表达力,该数据集具有更大难度(包含至多4-WL不可区分图)、更细粒度(支持1-WL与3-WL间模型比较)和更大规模(由800个相互非同构的1-WL不可区分图组成)。我们在BREC上综合测试了23个高于1-WL表达力的模型。我们的实验首次对这些超越1-WL的SOTA GNN模型的实际表达力进行了全面度量,并揭示了理论表达力与实际表达力之间的差距。数据集与评估代码发布于:https://github.com/GraphPKU/BREC。
引用
@article{arxiv.2304.07702,
title = {An Empirical Study of Realized GNN Expressiveness},
author = {Yanbo Wang and Muhan Zhang},
journal= {arXiv preprint arXiv:2304.07702},
year = {2024}
}
备注
arXiv admin note: text overlap with arXiv:2201.12884 by other authors