GraphPrompter:用于图类内学习的多阶段自适应提示优化
机器学习
2025-05-06 v1 人工智能
社会与信息网络
摘要
图类内学习能够在无需更新任何参数的情况下,将预训练图模型适应到 novel 和多样化的下游图上,从而引起了社区广泛关注。图类内学习的关键在于以选定的提示样本为条件来进行下游图处理。现有方法随机选择子图或边作为提示,导致噪声较大的图提示且模型性能不佳。此外,由于预训练图和测试图之间的差距,当测试图的类别数远大于训练图时,类内学习能力也会显著恶化。为解决上述挑战,我们开发了一种名为 GraphPrompter 的多阶段自适应提示优化方法,该方法优化生成、选择和使用图提示的整个过程,以实现更好的类内学习能力。首先,提示生成器引入重建层,以突出最有信息量的边并减少无关噪声,以构建图提示。其次,在选择阶段,提示选择器采用 -最近邻算法和预训练选择层,动态选择合适的样本并最小化无关提示的影响。最后,我们利用带有缓存替换策略的提示增强器来增强预训练模型在新数据集上的泛化能力。大量实验表明,GraphPrompter 有效提升了图模型的类内学习能力。在所有设置下,我们的方法平均超过了最新基线超过 8%。我们的代码已发布于 https://github.com/karin0018/GraphPrompter。
引用
@article{arxiv.2505.02027,
title = {GraphPrompter: Multi-stage Adaptive Prompt Optimization for Graph In-Context Learning},
author = {Rui Lv and Zaixi Zhang and Kai Zhang and Qi Liu and Weibo Gao and Jiawei Liu and Jiaxia Yan and Linan Yue and Fangzhou Yao},
journal= {arXiv preprint arXiv:2505.02027},
year = {2025}
}
备注
14 pages. IEEE International Conference on Data Engineering (ICDE'2025), accepted