中文

zrLLM:基于大语言模型的时间知识图谱零样本关系学习

人工智能 2024-03-18 v2 计算与语言 机器学习

摘要

对时间知识图谱(TKG)上演化知识的建模已成为热门话题。已有多种方法被提出用于预测 TKG 上的链接。其中大多数基于嵌入,通过学习隐表示来依据观测到的图上下文表示知识图谱(KG)的实体与关系。尽管这些方法在传统 TKG 预测(TKGF)基准上表现出色,但在建模无先验图上下文的未见过零样本关系时面临严峻挑战。本文尝试通过以下方式缓解该问题:首先将 KG 关系的文本描述输入大语言模型(LLM)以生成关系表示,再将其引入基于嵌入的 TKGF 方法。LLM 赋能的表示能够捕获关系描述中的语义信息,使得无论已见或未见、语义相近的关系在嵌入空间中彼此靠近,从而使 TKGF 模型即便无任何观测图上下文也能识别零样本关系。实验结果表明,我们的方法帮助 TKGF 模型在预测含先前未见关系的实事上取得更优性能,同时保持其对已见关系的链接预测能力。

关键词

引用

@article{arxiv.2311.10112,
  title  = {zrLLM: Zero-Shot Relational Learning on Temporal Knowledge Graphs with Large Language Models},
  author = {Zifeng Ding and Heling Cai and Jingpei Wu and Yunpu Ma and Ruotong Liao and Bo Xiong and Volker Tresp},
  journal= {arXiv preprint arXiv:2311.10112},
  year   = {2024}
}

备注

Accepted to NAACL 2024 main conference