中文

在 Seq2Seq 模型中利用图结构进行知识图谱链接预测

计算与语言 2026-05-19 v1 人工智能

摘要

我们引入了图增强序列到序列(GA-S2S),这是一种将 T5-small 编码器-解码器与关系图注意力网络(RGAT)相结合的新框架,旨在改进知识图谱中的链接预测。现有的 Seq2Seq 模型仅依赖实体和关系的表层文本描述,最多也只是将查询实体的邻域展平为单一的线性序列,从而丢弃了固有的图结构,而 GA-S2S 则联合编码了文本特征和查询实体周围的完整 kk-跳子图拓扑。通过将编码器的原始输出与 RGAT 的关系感知嵌入相集成,我们的模型捕获并利用了更丰富的多跳关系模式和文本信息。我们在 CoDEx 数据集上的初步实验表明,GA-S2S 优于具有竞争力的基于 Seq2Seq 的基线模型,在链接预测准确率上实现了高达 19% 的相对提升。

关键词

引用

@article{arxiv.2605.18211,
  title  = {Leveraging Graph Structure in Seq2Seq Models for Knowledge Graph Link Prediction},
  author = {Luu Huu Phuc and Ratan Bahadur Thapa and Mojtaba Nayyeri and Jingcheng Wu and Evgeny Kharlamov and Steffen Staab},
  journal= {arXiv preprint arXiv:2605.18211},
  year   = {2026}
}

备注

9 pages, 1 figure, 2 tables. Preprint of a paper accepted at the 5th Workshop on LLM-Integrated Knowledge Graph Generation from Text (TEXT2KG), co-located with ESWC 2026, May 10--14, 2026, Dubrovnik, Croatia