GraphFM: 图基础模型的综合基准
机器学习
2024-06-17 v2
摘要
基础模型作为人工智能系统发展的一般类别，为跨一系列下游任务的泛化提供了广泛的潜力。尽管对作为基础模型基石的自监督学习进行了广泛研究，但在依赖图自监督学习的图基础模型中仍存在几个突出问题，即：1）同质化。对下游任务的泛化能力程度尚不清楚。2）可扩展性。这些模型能有效扩展到大型数据集的程度未知。3）效率。这些模型的训练时间和内存使用需要评估。4）训练停止标准。确定跨多个任务进行预训练以最大化下游任务性能的最优停止策略。为了解决这些问题，我们构建了一个严格的基准，深入分析和研究了自监督图神经网络模型的泛化性和可扩展性。在泛化性方面，我们实现并比较了各种自监督图神经网络模型（训练用于生成节点表示）在节点分类、链接预测和节点聚类等任务上的性能。在可扩展性方面，我们比较了使用全批量和迷你批量策略训练后各种模型的性能。此外，我们通过实验测试这些模型的GPU内存使用和吞吐量，评估了它们的训练效率。通过这些实验，我们旨在提供见解以激励未来的研究。该基准的代码可在 https://github.com/NYUSHCS/GraphFM 公开获取。
引用
@article{arxiv.2406.08310,
title = {GraphFM: A Comprehensive Benchmark for Graph Foundation Model},
author = {Yuhao Xu and Xinqi Liu and Keyu Duan and Yi Fang and Yu-Neng Chuang and Daochen Zha and Qiaoyu Tan},
journal= {arXiv preprint arXiv:2406.08310},
year = {2024}
}