用于文档级关系抽取的 LLM 与关系分类器
计算与语言
2024-12-10 v2
摘要
大型语言模型（LLMs）为自然语言处理创造了一种新范式。尽管取得了进步，基于 LLM 的方法在文档级关系抽取（DocRE）这一理解长文本中复杂实体关系的关键任务上，仍落后于传统方法。本文探究了这种性能差距的原因，指出 LLM 因无关系的实体对而导致的注意力分散是一个关键因素。随后，我们引入了一种新颖的分类器-LLM 方法用于 DocRE。具体而言，该方法首先使用一个分类器筛选出可能具有潜在关系的实体对候选，然后将其馈送至 LLM 进行最终的关系分类。此方法确保 LLM 在推理过程中的注意力集中在表达关系的实体对上，而非无关系的实体对。在 DocRE 基准上的实验表明，我们的方法显著优于近期基于 LLM 的 DocRE 模型，并缩小了与最先进的基于 BERT 的模型之间的性能差距。
引用
@article{arxiv.2408.13889,
title = {LLM with Relation Classifier for Document-Level Relation Extraction},
author = {Xingzuo Li and Kehai Chen and Yunfei Long and Min Zhang},
journal= {arXiv preprint arXiv:2408.13889},
year = {2024}
}