Meta-GPS++: 基于对比学习和自训练增强图元学习
机器学习
2024-07-23 v1 社会与信息网络
摘要
节点分类是图学习中的重要问题。然而,许多模型在少样本场景下应用时通常表现不佳。一些研究尝试将元学习与图神经网络结合,以解决图上的少样本节点分类问题。尽管这些方法表现前景光明,但仍存在一些局限性:首先,他们采用 homophilic 图的节点编码机制来学习节点嵌入,即使在 heterophilic 图上亦如此;其次,基于元学习的现有模型忽略了学习过程中随机性的干扰;再次,它们仅使用特定任务中有限的标记节点进行训练,未充分利用大量未标记节点;最后,他们对几乎所有抽样任务都采取相同方式,未针对任务的独特性进行定制。为此,我们提出一种名为 Meta-GPS++ 的新型框架,用于少样本节点分类。具体来说,我们首先采用一种高效方法,在 homophilic 和 heterophilic 图上学习判别性节点表示。随后,我们利用原型方法初始化参数,并通过对比学习正则化节点嵌入的分布。此外,我们应用自训练从未标记节点中提取有价值的信息。我们还采用 S²(缩放与平移)变换从多样化任务中学习可迁移知识。在真实数据集上的实验结果表明,Meta-GPS++ 的优势显而易见。我们的代码已公开。
引用
@article{arxiv.2407.14732,
title = {Meta-GPS++: Enhancing Graph Meta-Learning with Contrastive Learning and Self-Training},
author = {Yonghao Liu and Mengyu Li and Ximing Li and Lan Huang and Fausto Giunchiglia and Yanchun Liang and Xiaoyue Feng and Renchu Guan},
journal= {arXiv preprint arXiv:2407.14732},
year = {2024}
}
备注
ACM Transactions on Knowledge Discovery from Data (TKDD)