基于完形填空问题的小样本命名实体识别
计算与语言
2021-11-25 v1 人工智能
信息检索
摘要
尽管计算语言学取得了巨大且持续的进步，但命名实体识别（NER）缺乏标注数据仍然是一个具有挑战性的问题，尤其是在低资源语言中以及当高质量标注需要领域知识时。自然语言处理（NLP）的最新发现显示了完形填空式问题在使语言模型利用其在预训练阶段获得的知识方面的有效性。在我们的工作中，我们提出了一种对模式利用训练（PET）的简单直观的改编，PET 是一种结合了完形填空问题机制和微调以进行小样本学习的最新方法：其核心思想是用模式重新表述 NER 任务。我们的方法在三个基准数据集（NCBI-disease、BC2GM 和一个私有的意大利生物医学语料库）上，在不依赖人工标注数据或远程监督的情况下，取得了比标准微调显著更好的性能，并且与其他小样本基线方法相比，取得了可比或改进的结果。
引用
@article{arxiv.2111.12421,
title = {Few-shot Named Entity Recognition with Cloze Questions},
author = {Valerio La Gatta and Vincenzo Moscato and Marco Postiglione and Giancarlo Sperlì},
journal= {arXiv preprint arXiv:2111.12421},
year = {2021}
}