GRAVER:用于鲁棒图基础模型微调的生成图词汇表
机器学习
2025-11-11 v1
摘要
受语言和视觉领域基础模型取得惊人成功的启发,图基础模型(GFMs)在跨越 diverse graph tasks and domains 的广泛应用前景广阔。然而,现有GFMs在少样本微调时面临不稳定问题,即性能和适应效率因支持样本选择的随机性以及预训练图与目标图之间的结构差异而出现显著波动。如何稳健、有效地微调GFMs以实现跨域和跨任务可信赖的知识迁移是主要挑战。本文提出GRAVER(Generative gRAph VocabulariEs for Robust GFM fine-tuning),一种新型框架,通过生成数据增强来解决上述不稳定性问题。具体而言,通过自图解离和验证,提取关键类别特定子图模式以识别可迁移的单元;基于自图相似性构建通用任务模板,通过基于图on的生成专家构建图词汇表;为实现稳健、高效的提示微调,GRAVER将支持样本与上下文词汇表进行“雕刻”,其中轻量级MoE-CoE网络能敏锐路由来自源域的知识。广泛的实验表明,GRAVER在下游少样本节点和图分类任务上在有效性、鲁棒性和效率方面均优于15种最先进的基线方法。
引用
@article{arxiv.2511.05592,
title = {GRAVER: Generative Graph Vocabularies for Robust Graph Foundation Models Fine-tuning},
author = {Haonan Yuan and Qingyun Sun and Junhua Shi and Xingcheng Fu and Bryan Hooi and Jianxin Li and Philip S. Yu},
journal= {arXiv preprint arXiv:2511.05592},
year = {2025}
}
备注
Accepted by the NeurIPS 2025