基于聚类采样的关系依赖对比学习用于归纳关系预测
机器学习
2022-11-23 v1 人工智能
计算与语言
摘要
关系预测是为知识图谱补全设计的任务,旨在预测实体间缺失的关系。近期基于子图的归纳关系预测模型受到越来越多的关注,其可基于围绕候选三元组提取的子图对未见过实体预测关系。然而,由于无法预测未见过的关系,它们并非完全归纳的。此外,它们未能充分关注关系的作用,仅依赖模型学习参数化关系嵌入,导致对长尾关系预测不准确。本文引入关系依赖对比学习(ReCoLe)用于归纳关系预测,其将对比学习与基于聚类算法的新型采样方法相结合,以增强关系的作用并提升对未见过关系的泛化能力。ReCoLe不为关系直接学习嵌入,而是为每个关系分配一个预训练的基于GNN的编码器以强化关系的影响。该基于GNN的编码器通过对比学习优化,从而确保在长尾关系上的良好性能。此外,聚类采样方法使ReCoLe具备处理未见过的关系与实体的能力。实验结果表明,ReCoLe在常用归纳数据集上优于最先进的方法。
引用
@article{arxiv.2211.12266,
title = {Relation-dependent Contrastive Learning with Cluster Sampling for Inductive Relation Prediction},
author = {Jianfeng Wu and Sijie Mai and Haifeng Hu},
journal= {arXiv preprint arXiv:2211.12266},
year = {2022}
}