差距去哪了?重新评估长程图基准
机器学习
2023-09-06 v2
摘要
近期的长程图基准(LRGB, Dwivedi 等人 2022)引入了一组强烈依赖于顶点间长程交互的图学习任务。经验证据表明,在这些任务上图 Transformer 显著优于消息传递 GNN(MPGNN)。在本文中,我们仔细重新评估了 LRGB 上的多个 MPGNN 基线以及图 Transformer GPS(Rampášek 等人 2022)。通过严谨的经验分析,我们证明了所报告的性能差距由于次优的超参数选择而被高估。值得注意的是,在多个数据集上,经过基本的超参数优化后性能差距完全消失。此外,我们讨论了 LRGB 视觉数据集缺乏特征归一化的影响,并指出了 LRGB 链接预测度量的错误实现。我们论文的主要目标是为图机器学习社区建立更高的经验严谨性标准。
引用
@article{arxiv.2309.00367,
title = {Where Did the Gap Go? Reassessing the Long-Range Graph Benchmark},
author = {Jan Tönshoff and Martin Ritzert and Eran Rosenbluth and Martin Grohe},
journal= {arXiv preprint arXiv:2309.00367},
year = {2023}
}