WAVE++:用于持续关系抽取的自适应提示下的任务内方差捕获
计算与语言
2026-02-12 v2
摘要
基于记忆的方法在持续关系抽取(CRE)中表现出强大的性能。然而,存储来自以前任务的示例会增加内存使用并引发隐私问题。最近,基于提示的方法因不依赖存储过去样本而成为一种有前景的替代方案。尽管已取得进展,但当前的基于提示技术在CRE中面临若干核心挑战,尤其是准确识别任务身份和缓解灾难性遗忘。现有的提示选择策略往往存在不准确性,缺乏防止共享参数遗忘的鲁棒机制,且难以处理跨任务和任务内变异。在本文中,我们提出了WAVE++,一种受前缀调谐与专家混合连接启发的新方法。具体而言,我们引入任务特定的提示池,增强了跨不同任务的灵活性和适应性,同时避免边界跨越风险;该设计更有效地捕获了任务内和跨任务的变异。为进一步细化关系分类,我们融入标签描述,提供更丰富、更全局的上下文,使模型能够更好地区分不同关系。我们还提出了一种训练自由的机制,以提高推理中的任务预测。此外,我们集成一个生成模型来整合共享参数中的先验知识,从而无需显式存储数据。大量实验表明,WAVE++超越了最新的基于提示和重演的方法,为持续关系抽取提供了更稳健的解决方案。我们的代码已公开于 https://github.com/PiDinosauR2804/WAVE-CRE-PLUS-PLUS。
引用
@article{arxiv.2505.13944,
title = {WAVE++: Capturing Within-Task Variance for Continual Relation Extraction with Adaptive Prompting},
author = {Bao-Ngoc Dao and Minh Le and Quang Nguyen and Luyen Ngo Dinh and Nam Le and Linh Ngo Van},
journal= {arXiv preprint arXiv:2505.13944},
year = {2026}
}
备注
Accepted in Neurocomputing, Elsevier