中文

LangGFM:仅凭大语言模型即可成为强大的图构模型

机器学习 2024-10-22 v1 人工智能 社会与信息网络

摘要

图构模型(Graph foundation models, GFMs)近年来受到广泛关注。然而,不同研究采用的数据处理与评估方案,致使难以深入理解其进展。此外,当前研究往往聚焦于特定子集的图学习任务,如结构任务、节点级任务或分类任务,导致引入针对特定任务类型的专用模块,牺牲了对其他图学习任务的适用性,与GFMs作为通用模型的初衷相悖。为提升图学习社区在GFMs评估中的一致性、覆盖面和跨域研究兴趣的多样性,我们提出了GFMBench——一个系统性且全面的基准,包含26个数据集。此外,我们引入LangGFM,一种完全依赖大语言模型的GFMs。通过重新审视并探索有效的图文本化原则,以及在语言空间中复用图数据增强和图自监督学习的成功技术,LangGFM在GFMBench上实现了与或超过当前最先进水平的性能,为推动GFMs的演进提供了新的视角、经验与基准。

关键词

引用

@article{arxiv.2410.14961,
  title  = {LangGFM: A Large Language Model Alone Can be a Powerful Graph Foundation Model},
  author = {Tianqianjin Lin and Pengwei Yan and Kaisong Song and Zhuoren Jiang and Yangyang Kang and Jun Lin and Weikang Yuan and Junjie Cao and Changlong Sun and Xiaozhong Liu},
  journal= {arXiv preprint arXiv:2410.14961},
  year   = {2024}
}

备注

under review