TOKEN 即 MASK：基于预训练语言模型的少样本命名实体识别
计算与语言
2022-06-17 v1
摘要
将一个领域的知识迁移到另一个领域对自然语言处理中的许多任务具有实际重要性，尤其在目标领域可用数据有限时。在本工作中，我们提出一种在命名实体识别（NER）背景下的新型少样本领域自适应方法。我们提出一种由可变基模块和模板模块组成的两步法，该模板模块借助简单的描述性模式利用预训练语言模型中捕获的知识。我们的方法简单而通用，可应用于少样本和零样本设置。在多个不同数据集上对我们轻量方法的评估表明，它能使最先进基线的性能提升 2-5% 的 F1 分数。
引用
@article{arxiv.2206.07841,
title = {TOKEN is a MASK: Few-shot Named Entity Recognition with Pre-trained Language Models},
author = {Ali Davody and David Ifeoluwa Adelani and Thomas Kleinbauer and Dietrich Klakow},
journal= {arXiv preprint arXiv:2206.07841},
year = {2022}
}
备注
Accepted to 25th International Conference on Text, Speech and Dialogue (TSD 2022)