HGPROMPT:连接同质与异质图以进行少样本提示学习
机器学习
2024-08-27 v8
摘要
图神经网络 (GNN) 与异质图神经网络 (HGNN) 是同质与异质图表征学习的突出技术,但它们在端到端监督框架中的性能很大程度上依赖于特定任务监督的可用性。为了降低标注成本,在自监督代理任务上进行预训练已成为一种流行的范式,但预训练模型与下游任务之间往往存在差距,这源于它们目标的差异。为了弥合这一差距,提示学习已成为一个有前景的方向,特别是在少样本设置下,无需完全微调预训练模型。尽管图上基于提示的学习已有一些早期探索,但它们主要处理同质图,忽略了下游应用中普遍存在的异质图。在本文中,我们提出了 HGPROMPT,一种新颖的预训练与提示框架,通过双模板设计不仅统一了预训练与下游任务,还统一了同质图与异质图。此外,我们在 HGPROMPT 中提出了双提示,以辅助下游任务定位最相关的先验,从而弥合不仅由特征变化引起,还由跨任务的异质性差异引起的差距。最后,我们在三个公开数据集上通过大量实验对 HGPROMPT 进行了充分的评估与分析。
引用
@article{arxiv.2312.01878,
title = {HGPROMPT: Bridging Homogeneous and Heterogeneous Graphs for Few-shot Prompt Learning},
author = {Xingtong Yu and Yuan Fang and Zemin Liu and Xinming Zhang},
journal= {arXiv preprint arXiv:2312.01878},
year = {2024}
}
备注
AAAI2024 main track