中文

检索增强生成框架中使用微调大语言模型的关系抽取

计算与语言 2024-06-25 v2 人工智能

摘要

信息抽取(IE)是将非结构化数据转换为结构化格式(如知识图谱KG)的关键技术。IE中的关系抽取(RE)任务则识别文本中实体之间的关系。现有的RE方法包括监督式、无监督式、弱监督式和规则式方法。近期利用预训练语言模型(PLMs)的研究在该领域取得了显著成果。在当前以大语言模型(LLM)为主导的时代,微调这些模型可以克服基于零样本LLM提示式RE方法所固有的局限,尤其是在领域适应方面以及识别句子中隐含关系方面。这些隐含关系无法通过句子的依存树轻易提取,需通过逻辑推理才能准确识别。本工作探讨了在检索增强式(RAG)RE方法中集成微调LLM的性能表现,以解决在句子水平上识别隐含关系的挑战,特别是在LLM作为生成器 within RAG框架时的表现。在TACRED、TACRED-Revisited(TACREV)、Re-TACRED和SemEVAL数据集上的实证评估显示,微调后的LLM(包括Llama2-7B、Mistral-7B和T5(Large))在性能上均实现了显著提升,尤其在隐含关系较多的SemEVAL数据集上,优于先前结果。此外,我们的方法在TACRED、TACREV和Re-TACRED数据集上均优于先前工作,展示了在多样化评估场景下的卓越性能。

关键词

引用

@article{arxiv.2406.14745,
  title  = {Relation Extraction with Fine-Tuned Large Language Models in Retrieval Augmented Generation Frameworks},
  author = {Sefika Efeoglu and Adrian Paschke},
  journal= {arXiv preprint arXiv:2406.14745},
  year   = {2024}
}

备注

preprint