ContrastNER：基于对比学习的提示微调少样本命名实体识别方法
计算与语言
2023-08-08 v1 人工智能
摘要
基于提示的语言模型已在众多应用中取得令人鼓舞的结果，包括命名实体识别（NER）任务。NER旨在识别句子中的实体并给出其类型。然而，大多数现有NER方法的优异性能严重依赖于离散提示的设计以及将模型预测输出映射到实体类别的 verbalizer，这些是复杂的工程。为应对这些挑战，我们提出ContrastNER，一种基于提示的NER框架，其在提示中同时使用离散与连续 token，并采用对比学习方法来学习连续提示并预测实体类型。实验结果表明，在高资源设置下ContrastNER取得了与最先进NER方法相竞争的性能，而在低资源情况下无需大量人工提示工程与 verbalizer 设计即可超越最先进模型。
引用
@article{arxiv.2305.17951,
title = {ContrastNER: Contrastive-based Prompt Tuning for Few-shot NER},
author = {Amirhossein Layegh and Amir H. Payberah and Ahmet Soylu and Dumitru Roman and Mihhail Matskin},
journal= {arXiv preprint arXiv:2305.17951},
year = {2023}
}
备注
9 pages, 5 figures, COMPSAC2023