利用零样本大语言模型增强基于文本的知识图谱补全:聚焦语义增强
计算与语言
2024-06-28 v3 人工智能
摘要
利用文本实体描述设计和开发基于文本的知识图谱补全(KGC)方法处于研究前沿。这些方法涉及软提示和对比学习等先进优化技术以增强 KGC 模型。基于文本的方法的有效性很大程度上取决于训练数据的质量与丰富度。大语言模型(LLMs)可利用简单提示来改变文本数据,从而为 KGC 实现数据增强。然而,LLMs 通常需要大量计算资源。为解决这些问题,我们引入一种称为 KGC 约束提示(CP-KGC)的框架。该 CP-KGC 框架设计适应不同数据集的提示以增强语义丰富度。此外,CP-KGC 采用上下文约束策略来有效识别 KGC 数据集中的多义实体。通过大量实验,我们验证了该框架的有效性。即使在量化后,LLM(Qwen-7B-Chat-int4)仍能提升基于文本的 KGC 方法的性能\footnote{代码与数据集见 \href{https://github.com/sjlmg/CP-KGC}{https://github.com/sjlmg/CP-KGC}}。本研究拓展了现有模型的性能极限,并促进了 KGC 与 LLMs 的进一步融合。
引用
@article{arxiv.2310.08279,
title = {Enhancing Text-based Knowledge Graph Completion with Zero-Shot Large Language Models: A Focus on Semantic Enhancement},
author = {Rui Yang and Jiahao Zhu and Jianping Man and Li Fang and Yi Zhou},
journal= {arXiv preprint arXiv:2310.08279},
year = {2024}
}
备注
new version