ReFactor GNNs：从消息传递视角重访基于因子分解的模型
机器学习
2025-01-17 v4 人工智能
计算与语言
摘要
基于因子分解的模型（FMs），如DistMult，在知识图谱补全（KGC）任务中持续取得成功，常优于图神经网络（GNNs）。然而，与GNNs不同，FMs难以融入节点特征并在归纳式设定中泛化至未见节点。我们的工作通过提出ReFactor GNNs弥合了FMs与GNNs之间的鸿沟。这一新架构借鉴了两种此前多被认为互不相交的建模范式。具体而言，利用消息传递形式体系，我们展示了如何通过将梯度下降过程重新表述为消息传递操作，将FMs转化为GNNs，这构成了我们ReFactor GNNs的基础。在众多成熟的KGC基准上，我们的ReFactor GNNs取得了与FMs相当的直推式性能，以及最先进的归纳式性能，同时使用的参数数量少一个数量级。
引用
@article{arxiv.2207.09980,
title = {ReFactor GNNs: Revisiting Factorisation-based Models from a Message-Passing Perspective},
author = {Yihong Chen and Pushkar Mishra and Luca Franceschi and Pasquale Minervini and Pontus Stenetorp and Sebastian Riedel},
journal= {arXiv preprint arXiv:2207.09980},
year = {2025}
}
备注
36th Conference on Neural Information Processing Systems (NeurIPS 2022)