RAG-GFM：通过检索增强生成克服图基础模型中的内存瓶颈
机器学习
2026-01-27 v2 人工智能
摘要
图基础模型（GFM）已成为图学习的前沿，有望在各种任务中提供可迁移的表示。然而，GFM 仍受限于内存瓶颈：它们试图将知识编码到模型参数中，这限制了语义容量，引入了带有冲突的严重有损压缩，并以阻碍高效适应的方式将图表示与知识纠缠在一起，从而削弱了可扩展性和可解释性。在这项工作中，我们提出了 RAG-GFM，一种由检索增强生成辅助的图基础模型，它将知识从参数中卸载，并补充参数化学习。为了外化图知识，我们构建了一个双模态统一检索模块，其中包含来自前缀结构化文本的语义存储和来自基于中心性的模体的结构存储。为了保留异构信息，我们设计了一个双视图对齐目标，通过对比两种模态来捕获内容和关系模式。为了实现高效的下游适应，我们执行上下文增强，利用检索到的文本和模体作为上下文证据来丰富支持实例。在五个基准图数据集上的广泛实验表明，RAG-GFM 在跨域节点和图分类任务中始终优于 13 个最先进的基线，实现了卓越的有效性和效率。
引用
@article{arxiv.2601.15124,
title = {RAG-GFM: Overcoming In-Memory Bottlenecks in Graph Foundation Models via Retrieval-Augmented Generation},
author = {Haonan Yuan and Qingyun Sun and Jiacheng Tao and Xingcheng Fu and Jianxin Li},
journal= {arXiv preprint arXiv:2601.15124},
year = {2026}
}
备注
Accepted by the Web Conference 2026 (Research Track)