面向图神经网络的统一图选择性提示学习
机器学习
2024-06-18 v1 社会与信息网络
摘要
近年来，图提示学习/调优在适应预训练模型进行图表示学习方面受到越来越多的关注。作为一种通用的图提示学习方法，图提示特征（Graph Prompt Feature，GPF）在为图神经网络（GNN）适配预训练模型方面取得了显著的成功。通过固定预训练图神经网络模型的参数，GPF的目标是通过向图节点特征中添加一些（可学习的）提示向量来修改输入图数据，从而更好地与下游任务在小数据集上的需求相匹配。然而，现有的GPF方法主要存在两个局限性：其次，GPF通常专注于节点提示学习，忽略了对图边的提示；其次，现有的GPF方法通常在所有节点上均等进行提示学习，无法捕捉不同节点的重要性，且在与下游任务对齐时可能对噪声节点敏感。为此，本文提出了一种新的统一图选择性提示特征学习方法（Graph Selective Prompt Feature，GSPF），用于GNN的微调。该方法将节点和边的提示学习集成在一起，从而为图数据提供了一个统一的提示模型。此外，它通过专注于重要节点和边的提示学习，进行选择性提示学习，从而使模型更可靠且更紧凑。实验结果表明，所提出的GSPF方法在多个基准数据集上均显示出有效性和优势。
引用
@article{arxiv.2406.10498,
title = {A Unified Graph Selective Prompt Learning for Graph Neural Networks},
author = {Bo Jiang and Hao Wu and Ziyan Zhang and Beibei Wang and Jin Tang},
journal= {arXiv preprint arXiv:2406.10498},
year = {2024}
}