基于 Transformer 的超关系与数值知识图谱的表示学习

超关系知识图谱近来被研究，其中三元组与一组限定符相关联；限定符由关系和实体组成，为三元组提供辅助信息。虽然现有的超关系知识图谱嵌入方法假设实体是离散对象，但某些信息应使用数值表示，例如 (J.R.R., 出生于, 1892)。此外，三元组 (J.R.R., 就读于, 牛津大学) 可与诸如 (起始时间, 1911) 的限定符相关联。在本文中，我们提出一个名为 HyNT 的统一框架，用于学习包含三元组或限定符中数值字面量的超关系知识图谱的表示。我们定义上下文 Transformer 和预测 Transformer，不仅基于三元组与其限定符之间的相关性，还基于数值信息来学习表示。通过学习三元组和限定符的紧凑表示并将其输入 Transformer，我们降低了使用 Transformer 的计算成本。使用 HyNT，除了超关系知识图谱中缺失的实体或关系外，我们还可以预测缺失的数值。实验结果表明，HyNT 在真实世界数据集上显著优于最先进的方法。