如何应对新兴主题?结合强标签与弱标签用于新冠新闻命名实体识别
计算与语言
2022-10-11 v2 人工智能
机器学习
摘要
能够为新兴主题训练命名实体识别(NER)模型对许多现实应用至关重要,尤其在医学领域,新主题持续演化并超出已有模型与数据集范围。为 realistic 评估设定,我们引入一个新的COVID-19新闻NER数据集(COVIDNEWS-NER),并发布3000条人工标注的强标签句子与13000条自动生成的弱标签句子。除数据集外,我们提出CONTROSTER,一种通过迁移学习策略性结合弱标签与强标签以改进新兴主题NER的方案。我们在COVIDNEWS-NER上展示了CONTROSTER的有效性,并对结合弱标签与强标签训练进行分析。我们的关键发现为:(1)在强标签数据上调优前先用弱数据形成初始骨干,优于仅在强或弱数据上训练的方法。(2)域外与域内弱标签训练的结合至关重要,且可克服单一来源弱标签训练时的饱和。
引用
@article{arxiv.2209.15108,
title = {How to tackle an emerging topic? Combining strong and weak labels for Covid news NER},
author = {Aleksander Ficek and Fangyu Liu and Nigel Collier},
journal= {arXiv preprint arXiv:2209.15108},
year = {2022}
}
备注
AACL-IJCNLP 2022