中文

基于因果干预的小样本命名实体识别

计算与语言 2023-05-04 v1

摘要

小样本命名实体识别(NER)系统旨在基于少量标注样本识别新类别的实体。与具有充足样本的任务相比,小样本场景下更容易过拟合,这是一个重大挑战。小样本学习中的严重过拟合主要由少量样本选择偏差引起的伪相关导致。为缓解小样本 NER 中的伪相关问题,本文提出一种基于因果干预的小样本 NER 方法。该方法基于原型网络,在训练期间通过反向调整对上下文和原型进行干预。特别地,在单样本场景下干预上下文非常困难,因此我们通过增量学习对原型进行干预,这也可避免灾难性遗忘。我们在不同基准上的实验表明,我们的方法取得了新的最先进结果(在所有任务上绝对提升最高达 29%,平均 12%)。

关键词

引用

@article{arxiv.2305.01914,
  title  = {Causal Interventions-based Few-Shot Named Entity Recognition},
  author = {Zhen Yang and Yongbin Liu and Chunping Ouyang},
  journal= {arXiv preprint arXiv:2305.01914},
  year   = {2023}
}