LPFormer:一种用于链接预测的自适应图 Transformer
机器学习
2024-06-28 v4
摘要
链接预测是图结构数据上的常见任务,已在多种领域中得到应用。经典方法是使用手工设计的启发式方法完成该任务。启发式度量被选择为与链接形成的潜在因素良好相关。近年来,出现了一类结合消息传递神经网络(MPNN)与启发式方法优势的新方法。这些方法通过使用 MPNN 的输出与捕捉候选链接中节点间关系的“成对编码”相结合来进行预测。它们已在众多数据集上展现出强劲性能。然而,当前的成对编码通常含有强烈的归纳偏置,使用相同的潜在因素对所有链接进行分类。这限制了现有方法学习如何正确分类可能由不同因素形成的多种不同链接的能力。为应对该局限,我们提出一种新方法 LPFormer,其试图为每个链接自适应地学习成对编码。LPFormer 通过一个注意力模块对链接因素建模,该模块通过建模对链接预测至关重要的多种因素来学习节点间存在的成对编码。大量实验表明,LPFormer 能在保持高效的同时在众多数据集上取得 SOTA 性能。代码可在 https://github.com/HarryShomer/LPFormer 获取。
引用
@article{arxiv.2310.11009,
title = {LPFormer: An Adaptive Graph Transformer for Link Prediction},
author = {Harry Shomer and Yao Ma and Haitao Mao and Juanhui Li and Bo Wu and Jiliang Tang},
journal= {arXiv preprint arXiv:2310.11009},
year = {2024}
}
备注
KDD'24