GDLLM：基于大语言模型的全局距离建模方法用于事件时间关系抽取
计算与语言
2025-08-29 v1 信息检索
摘要
在自然语言处理(NLP)中，事件时间关系抽取(ETRE)是指识别两个事件的时间关系。先前的研究注意到语言模型对 ETRE 的重要性。然而，小型语言模型(SLMs)的受限预训练知识限制了其处理不平衡分类数据集中少数类关系的能力。对于大语言模型(LLMs)，研究人员采用手动设计的提示或指令，这可能引入额外的噪声，导致干扰对事件之间长距离依赖关系的判断。为解决这些问题，我们提出了 GDLLM，一种基于 LLMs 的全局距离建模方法。我们首先构建一个利用图注意力网络(GAT)的距离感知图结构，帮助 LLMs 捕获长距离依赖特征。此外，我们设计一种基于软推断的时间特征学习范式，用于增强识别具有短距离邻近带的关系的能力，这将 LLMs 生成的概率信息补充到多头注意力机制中。由于可以有效捕获全局特征，我们的框架显著增强了少数关系类的性能，并提高了整体学习能力。在两个公开可用数据集 TB-Dense 和 MATRES 上的实验表明，我们的方法实现了最先进(SOTA)的性能。
引用
@article{arxiv.2508.20828,
title = {GDLLM: A Global Distance-aware Modeling Approach Based on Large Language Models for Event Temporal Relation Extraction},
author = {Jie Zhao and Wanting Ning and Yuxiao Fei and Yubo Feng and Lishuang Li},
journal= {arXiv preprint arXiv:2508.20828},
year = {2025}
}
备注
Proceedings of the 2025 Conference on Empirical Methods in Natural Language Processing (EMNLP Findings)