关系预测作为改进多关系图表示的辅助训练目标
计算与语言
2021-10-07 v1 人工智能
摘要
在多关系图上学习良好表示对知识库补全（KBC）至关重要。在本文中，我们提出了一种用于多关系图表示学习的新型自监督训练目标，通过简单地将关系预测纳入常用的 1vsAll 目标中。新训练目标不仅包含预测给定三元组主客体的项，还包含预测关系类型的项。我们分析了这一新目标如何影响 KBC 中的多关系学习：在多种数据集和模型上的实验表明，关系预测能显著提升实体排序——KBC 最常用的评测任务，在 FB15k-237 上 MRR 提升 6.1%、Hits@1 提升 9.9%，在 Aristo-v4 上 MRR 提升 3.1%、Hits@1 提升 3.4%。此外，我们观察到所提目标在高度多关系数据集（即具有大量谓词的数据集）上尤其有效，且在使用更大嵌入尺寸时生成更好的表示。
引用
@article{arxiv.2110.02834,
title = {Relation Prediction as an Auxiliary Training Objective for Improving Multi-Relational Graph Representations},
author = {Yihong Chen and Pasquale Minervini and Sebastian Riedel and Pontus Stenetorp},
journal= {arXiv preprint arXiv:2110.02834},
year = {2021}
}
备注
AKBC 2021