中文

W-PROCER:面向医疗少样本命名实体识别的加权原型对比学习

计算与语言 2023-08-02 v5 机器学习

摘要

对比学习已成为少样本命名实体识别(NER)的流行方案。常规配置力求缩短同标签词元间的距离并增大异标签词元间的距离。然而,在医疗领域,大量实体被标注为外部(OUTSIDE, O),且现有对比学习方法不当地将这些 O 实体与其他非 O 实体推远,尽管许多 O 标注实体与已标注实体相关,最终得到带有噪声的标签语义表示原型。为应对此挑战,我们提出一种名为面向医疗少样本命名实体识别的加权原型对比学习(W-PROCER)的新方法。我们的方法主要围绕构建基于原型的收缩损失与加权网络展开。这些组件在协助模型区分来自 O 词元的负样本并增强对比学习的判别能力方面起着关键作用。实验结果表明,我们所提 W-PROCER 框架在三个医疗基准数据集上显著优于强基线。

关键词

引用

@article{arxiv.2305.18624,
  title  = {W-procer: Weighted Prototypical Contrastive Learning for Medical Few-Shot Named Entity Recognition},
  author = {Mingchen Li and Yang Ye and Jeremy Yeung and Huixue Zhou and Huaiyuan Chu and Rui Zhang},
  journal= {arXiv preprint arXiv:2305.18624},
  year   = {2023}
}

备注

Under Review