中文

类递增式少样本事件检测

计算与语言 2024-04-03 v1

摘要

事件检测是信息抽取和知识图谱中的基本任务之一。然而,现实中的事件检测系统通常需要不断处理新的事件类。这些新的类通常只有少量的标记实例,因为为未标记的大量实例进行标注既耗时又费力。因此,本文提出了一种新任务,称为类递增式少样本事件检测。然而,这一任务面临两个问题,即旧知识遗忘和新类别过拟合。为了解决这些问题,本文进一步提出了一种基于知识蒸馏和提示学习的方法,称为 Prompt-KD。具体而言,为了处理关于旧知识的遗忘问题,Prompt-KD 发展出一种基于注意力的多教师知识蒸馈框架,其中预训练于基类上的祖先教师模型在所有学习会话中被重用,父亲教师模型通过适应来派生当前的学生模型。另一方面,为了应对少样本学习情境并缓解其对应的新类别过拟合问题,Prompt-KD 还配备了提示学习机制。在两个基准数据集上进行大量实验,即 FewEvent 和 MAVEN,证明了 Prompt-KD 的优越性能。

关键词

引用

@article{arxiv.2404.01767,
  title  = {Class-Incremental Few-Shot Event Detection},
  author = {Kailin Zhao and Xiaolong Jin and Long Bai and Jiafeng Guo and Xueqi Cheng},
  journal= {arXiv preprint arXiv:2404.01767},
  year   = {2024}
}