通过区分类义语义改进持续关系抽取
计算与语言
2023-05-12 v1
摘要
持续关系抽取（RE）旨在不断学习持续涌现的关系，同时避免遗忘已学关系。现有工作存储少量典型样本以重新训练模型从而缓解遗忘，但反复回放这些样本可能导致过拟合问题。我们对现有工作进行了实证研究，观察到其性能受到类义关系的严重影响。为解决该问题，我们提出一种面向类义关系的新型持续抽取模型。具体而言，我们设计记忆不敏感关系原型和记忆增强以克服过拟合问题；同时引入集成训练与焦点知识蒸馏以提升在类义关系上的性能。实验结果表明了我们所提模型的优越性，并证明其在区分类义关系与克服过拟合方面的有效性。
引用
@article{arxiv.2305.06620,
title = {Improving Continual Relation Extraction by Distinguishing Analogous Semantics},
author = {Wenzheng Zhao and Yuanning Cui and Wei Hu},
journal= {arXiv preprint arXiv:2305.06620},
year = {2023}
}
备注
Accepted in the 61st Annual Meeting of the Association for Computational Linguistics (ACL 2023)