学习“O”有助于学习更多:处理类增量 NER 中的隐藏实体问题
计算与语言
2023-07-25 v2 人工智能
摘要
随着命名实体类别迅速增加,已部署的 NER 模型需要持续更新以识别更多实体类型,这就产生了对 NER 类增量学习的需求。考虑到隐私问题和存储限制,类增量 NER 的标准范式仅使用标注了新类的训练数据来更新模型,而其他实体类的实体未被标注,被视为“非实体”(或“O”)。在这项工作中,我们对“未标注实体问题”进行了实证研究,发现它导致“O”与实体之间的严重混淆,降低了旧类的类别区分度并削弱了模型学习新类的能力。为解决未标注实体问题,我们提出了一种新颖的表示学习方法,以为实体类和“O”学习判别性表示。具体而言,我们提出了一种实体感知对比学习方法,可自适应地检测“O”中的实体簇。此外,我们提出了两种有效的基于距离的重新标注策略,以更好地学习旧类。我们引入了更真实且更具挑战性的类增量 NER 基准,所提方法相较基线方法取得了高达 10.62% 的提升。
引用
@article{arxiv.2210.04676,
title = {Learning "O" Helps for Learning More: Handling the Concealed Entity Problem for Class-incremental NER},
author = {Ruotian Ma and Xuanting Chen and Lin Zhang and Xin Zhou and Junzhe Wang and Tao Gui and Qi Zhang and Xiang Gao and Yunwen Chen},
journal= {arXiv preprint arXiv:2210.04676},
year = {2023}
}
备注
Accepted by ACL 2023