利用上下文感知编码器和LoRA提升长尾类别性能的事件检测
计算与语言
2026-02-18 v2
摘要
当前事件检测研究存在两个我们在此研究中探讨的显著且反复出现的局限性。首先，仅解码器的大型语言模型（LLM）的单向性本质为依赖丰富双向上下文的自然语言理解任务带来了根本性的架构瓶颈。其次，我们直面事件检测文献中常规依赖Micro-F1分数的做法，该分数通过偏向多数类别而系统性地夸大了性能。相反，我们关注Macro-F1，将其作为衡量模型在长尾事件类型上能力的更具代表性的指标。我们的实验表明，通过句子上下文增强的模型相比标准的仅解码器基线模型取得了更优的性能。在微调期间使用低秩适应（LoRA）尤其显著提升了Macro-F1分数，特别是对于仅解码器模型，这表明LoRA可以成为增强LLM在长尾事件类别上性能的有效工具。
引用
@article{arxiv.2601.11932,
title = {Event Detection with a Context-Aware Encoder and LoRA for Improved Performance on Long-Tailed Classes},
author = {Abdullah Al Monsur and Nitesh Vamshi Bommisetty and Gene Louis Kim},
journal= {arXiv preprint arXiv:2601.11932},
year = {2026}
}
备注
Accepted in EACL 2026 Findings