利用大语言模型从知识图谱进行零样本自然语言生成
计算与语言
2023-08-23 v2
摘要
在任何使用结构化知识图谱(KG)数据作为底层知识表示的系统中,KG 到文本的生成都是将有部分图数据转化为人类可理解文本的有用工具。近期工作表明,利用在大量文本数据上预训练的模型,即便在特定的图到文本任务上仅有相对较小的训练数据,也能在 KG 到文本任务上表现良好。在本文中,我们基于这一概念,利用大语言模型(LLM)仅依据模型从可读内容中对三元组结构的理解来进行零样本生成。我们表明 ChatGPT 在 WebNLG 2020 挑战赛的某些指标上达到了接近最先进(state-of-the-art)的性能,但在其他指标上有所落后。此外,我们比较了事实性、反事实与虚构性陈述,并表明 LLM 已掌握的待解析数据信息与输出文本质量之间存在显著关联。
引用
@article{arxiv.2307.07312,
title = {Using Large Language Models for Zero-Shot Natural Language Generation from Knowledge Graphs},
author = {Agnes Axelsson and Gabriel Skantze},
journal= {arXiv preprint arXiv:2307.07312},
year = {2023}
}
备注
9 pages, 3 pages appendices, 1 figure, 4 tables (incl. appendices)