知识图谱上未见实体、关系与文字的推理

近年来，知识图谱嵌入模型已成功应用于transductive设置以解决各种具有挑战性的任务，包括链接预测和查询答复。然而，transductive设置不允许对未见实体、关系乃至数值或非数值文字进行推理。尽管不断努力探索归纳场景，但对未见实体、关系和文字的推理仍未实现。这一限制阻止了现有方法处理涉及世界异构信息的动态知识图谱。本文提出了 remedies。我们提出注意力字节对编码层（BytE），通过实体和关系的字节对编码子词单元序列构建三元组嵌入。与传统方法相比，BytE通过权重绑定实现了大规模特征复用，因为它迫使知识图谱嵌入模型学习子词单元的嵌入，而非直接学习实体和关系的嵌入。因此，嵌入矩阵的大小不再受限于知识图谱中唯一实体和关系的数量。实验结果表明，BytE在实体和关系的语法表示在语义上具有意义的数据集上，提高了4个知识图谱嵌入模型的链接预测性能。然而，在实体和关系以纯数字或URI表示的数据集上，BytE的优势并未体现。我们提供BytE的开源实现，以促进可重复的科学研究。