中文

AutoRE:基于大语言模型的文档级关系抽取

计算与语言 2024-07-29 v3 人工智能

摘要

大语言模型(LLM)在理解和生成文本方面展现出了卓越的能力,促使众多研究人员将其用于信息抽取(IE)目的,包括关系抽取(RE)。然而,现有大多数方法主要针对句子级关系抽取任务设计,这些任务通常包含单个句子内有限的关系和三元组事实。此外,某些方法将关系作为整合到提示模板中的候选选项,这导致在处理文档级关系抽取任务时处理效率低下且性能次优,因为该任务涉及处理分布在给定文档中的多个关系和三元组事实,带来了独特的挑战。为了克服这些局限性,我们引入了 AutoRE,这是一个端到端的 DocRE 模型,采用了名为 RHF(Relation-Head-Facts)的新型 RE 抽取范式。与现有方法不同,AutoRE 不依赖于已知关系选项的假设,使其更贴近真实场景。此外,我们使用参数高效微调(PEFT)算法(QLoRA)开发了一个易于扩展的 RE 框架。我们在 RE-DocRED 数据集上的实验展示了 AutoRE 的最佳性能,取得了 SOTA 结果,在开发集和测试集上分别超越 TAG 10.03% 和 9.03%。代码可在 https://github.com/THUDM/AutoRE 获取,演示视频见 https://www.youtube.com/watch?v=IhKRsZUAxKk。

关键词

引用

@article{arxiv.2403.14888,
  title  = {AutoRE: Document-Level Relation Extraction with Large Language Models},
  author = {Lilong Xue and Dan Zhang and Yuxiao Dong and Jie Tang},
  journal= {arXiv preprint arXiv:2403.14888},
  year   = {2024}
}

备注

10 pages, 4 figures