基于图上上下文学习的通用链接预测器
机器学习
2024-02-16 v2
摘要
链接预测是图机器学习中的关键任务,旨在推断图中缺失或未来的链接。传统方法利用基于广泛观察到的连接模式的启发式方法,无需模型训练即可提供广泛的适用性和泛化能力。尽管这些方法具有实用性,但它们受限于对人类衍生启发式规则的依赖,且缺乏数据驱动方法的适应性。相反,参数化链接预测器擅长从数据中自动学习连接模式并达到最先进水平(SOTA),但难以直接在不同图之间迁移;适应目标图需要大量的训练和超参数优化成本。在本文中,我们介绍了通用链接预测器(Universal Link Predictor, UniLP),这是一种结合了启发式方法的泛化能力与参数化模型模式学习能力的新颖模型。UniLP 旨在自主识别不同图中的连接模式,无需针对性训练即可直接应用于任何未见过的图数据集。我们通过实施上下文学习(In-context Learning, ICL)解决了由不同图的独特分布引起的冲突连接模式这一挑战。这种方法允许 UniLP 根据上下文演示动态调整以适应各种目标图,从而避免负迁移。通过严格的实验,我们证明了 UniLP 在测试时适应新的、未见过的图的有效性,展示了其性能可与甚至超越针对特定数据集微调的参数化模型。我们的研究结果突显了 UniLP 在链接预测领域树立新标准的潜力,它在单一、通用的框架中结合了启发式方法和参数化方法的优势。
引用
@article{arxiv.2402.07738,
title = {Universal Link Predictor By In-Context Learning on Graphs},
author = {Kaiwen Dong and Haitao Mao and Zhichun Guo and Nitesh V. Chawla},
journal= {arXiv preprint arXiv:2402.07738},
year = {2024}
}
备注
Preprint