KC-GenRe：一种基于大语言模型的知识约束生成式重排序方法用于知识图谱补全
人工智能
2024-03-27 v1
摘要
知识图谱补全的目标是预测实体间缺失的事实。以往的知识图谱补全重排序方法大多基于非生成式语言模型来获取每个候选实体的概率。近期，生成式大语言模型在信息抽取和对话系统等多项任务上展现出卓越性能。将其用于知识图谱补全重排序有助于利用广泛的预训练知识和强大的生成能力。然而，在完成该任务时可能会遇到新问题，即不匹配、排序错误和遗漏。为此，我们提出KC-GenRe，一种基于大语言模型的知识约束生成式重排序方法。为克服不匹配问题，我们将知识图谱补全重排序任务形式化为由生成式大语言模型实现的候选标识符排序生成问题。为解决排序错误问题，我们开发了一种知识引导的交互式训练方法，以增强对候选实体的识别和排序。为应对遗漏问题，我们设计了一种知识增强的约束推理方法，实现上下文提示和受控生成，从而获得有效的排序。实验结果表明，KG-GenRe在四个数据集上取得了最先进的性能，与先前方法相比，在MRR和Hits@1指标上分别提升了高达6.7%和7.7%，与未进行重排序相比，分别提升了9.0%和11.1%。广泛的分析证明了KG-GenRe各组件的有效性。
引用
@article{arxiv.2403.17532,
title = {KC-GenRe: A Knowledge-constrained Generative Re-ranking Method Based on Large Language Models for Knowledge Graph Completion},
author = {Yilin Wang and Minghao Hu and Zhen Huang and Dongsheng Li and Dong Yang and Xicheng Lu},
journal= {arXiv preprint arXiv:2403.17532},
year = {2024}
}
备注
This paper has been accepted for publication in the proceedings of LREC-COLING 2024