中文

增量提示:面向终身事件检测的情景记忆提示

计算与语言 2022-09-19 v2 人工智能

摘要

终身事件检测旨在以新事件类型与数据增量更新模型,同时保留对先前所学旧类型的能力。一个关键挑战是,当在新数据上持续训练时,模型会对旧类型发生灾难性遗忘。本文引入情景记忆提示(EMP)以显式保留所学任务特定知识。我们的方法为每个任务采用连续提示,并对其进行优化以指导模型预测并学习事件特定表示。先前任务中学得的EMP在后续任务中随模型携带,并可作为记忆模块保持旧知识并迁移至新任务。实验结果证明了我们方法的有效性。此外,我们还对终身学习中的新旧事件类型进行了全面分析。

关键词

引用

@article{arxiv.2204.07275,
  title  = {Incremental Prompting: Episodic Memory Prompt for Lifelong Event Detection},
  author = {Minqian Liu and Shiyu Chang and Lifu Huang},
  journal= {arXiv preprint arXiv:2204.07275},
  year   = {2022}
}

备注

Accepted to COLING'22 Main Conference (Short paper). 9 pages, 2 figures, 3 tables