中文

融合传统关系抽取方法与大型语言模型以赋能少样本关系抽取

计算与语言 2024-07-15 v1 人工智能

摘要

少样本关系抽取(FSRE)是关系抽取(RE)的一个子任务,利用有限的训练实例,因其在极低资源场景下提取文本信息的能力而吸引了自然语言处理(NLP)领域越来越多的研究者。FSRE采用的主要方法是基于预训练语言模型(PLM)的微调或提示调优技术。近年来,大型语言模型(LLM)的出现促使许多研究者通过上下文学习(ICL)探索FSRE。然而,基于传统RE模型或LLM的方法都存在显著的局限性。传统RE模型受限于缺乏必要的先验知识,而LLM在RE的任务特定能力方面有所不足。为解决这些缺陷,我们提出了一种双系统增强关系抽取器(DSARE),它协同结合了传统RE模型与LLM。具体来说,DSARE创新地将LLM的先验知识注入传统RE模型,并反过来通过关系抽取增强来提升LLM在RE上的任务特定能力。此外,采用集成预测模块共同考虑这两个各自的预测并得出最终结果。大量实验证明了我们提出方法的有效性。

关键词

引用

@article{arxiv.2407.08967,
  title  = {Empowering Few-Shot Relation Extraction with The Integration of Traditional RE Methods and Large Language Models},
  author = {Ye Liu and Kai Zhang and Aoran Gan and Linan Yue and Feng Hu and Qi Liu and Enhong Chen},
  journal= {arXiv preprint arXiv:2407.08967},
  year   = {2024}
}