基于关系的嵌入传播用于知识表示学习的简单有效方法
计算与语言
2022-05-16 v1
摘要
关系图神经网络在编码知识图谱（KGs）中的图上下文方面受到了特别关注。尽管它们在小型 KGs 上取得了有竞争力的性能，但如何高效且有效地利用大型 KGs 的图上下文仍是一个开放问题。为此，我们提出了基于关系的嵌入传播（REP）方法。它是一种后处理技术，用于结合图上下文调整预训练的 KG 嵌入。由于 KGs 中的关系是有方向的，我们分别对入向头上下文和出向尾上下文进行建模。相应地，我们设计了无外部参数的关系上下文函数。此外，我们使用平均来聚合上下文信息，使 REP 在计算上更高效。我们从理论上证明，这样的设计可以避免传播过程中的信息失真。大量实验也表明，REP 在提升或保持预测质量的同时具有显著的可扩展性。值得注意的是，它在 OGBL-WikiKG2 上为基于三元组的嵌入方法平均带来约 10% 的相对提升，并且仅花费 5%–83% 的时间即可达到与最先进的 GC-OTE 相当的结果。
引用
@article{arxiv.2205.06456,
title = {Simple and Effective Relation-based Embedding Propagation for Knowledge Representation Learning},
author = {Huijuan Wang and Siming Dai and Weiyue Su and Hui Zhong and Zeyang Fang and Zhengjie Huang and Shikun Feng and Zeyu Chen and Yu Sun and Dianhai Yu},
journal= {arXiv preprint arXiv:2205.06456},
year = {2022}
}
备注
Accepted by IJCAI 2022