常识知识图谱补全中的归纳学习

常识知识图谱（CKG）是一类特殊的知识图谱（KG），其实体由自由文本构成。然而，大多数现有的 CKG 补全方法聚焦于所有实体在训练时均已出现的设定。尽管该设定对于常规 KG 补全是标准的，但对于 CKG 补全存在局限。在测试时，CKG 中的实体可能是未见的，因为它们可能具有未见过的文本/名称，且由于 CKG 通常非常稀疏，实体可能与训练图不相连。在此，我们提出研究 CKG 补全的归纳学习设定，其中测试时可能出现未见实体。我们开发了一种名为 InductivE 的新型学习框架。与以往方法不同，InductivE 通过直接从原始实体属性/文本计算实体嵌入来保证归纳学习能力。InductivE 由自由文本编码器、图编码器与 KG 补全解码器组成。具体而言，自由文本编码器首先基于预训练语言模型与词嵌入提取各实体的文本表示。图编码器是一种门控关系图卷积神经网络，从稠密化后的图学习以获得更具信息量的实体表示。我们开发了一种通过在与语义相关实体间添加边来稠密化 CKG 的方法，为未见实体提供更多支撑信息，从而提升未见实体嵌入的泛化能力。最后，InductivE 采用 Conv-TransE 作为 CKG 补全解码器。实验结果表明，在 ATOMIC 与 ConceptNet 基准上，InductivE 在标准与归纳设定下均显著优于最先进的基线方法。InductivE 在归纳场景下表现尤为突出，相较现有方法取得了超过 48% 的提升。