面向实验流程命名实体识别的领域特定 BERT 表示
计算与语言
2020-12-22 v1
摘要
训练用于从表示中预测属性的监督模型已在多种任务上取得高准确率。例如,BERT 系列模型似乎在从 NER 标注到一系列其他语言任务的下游任务上表现尤为出色。但医学领域使用的词汇包含大量仅用于医疗行业的特殊词元,如不同疾病、设备、生物体、药物等的名称,这使得传统 BERT 模型难以构建上下文嵌入。本文中,我们将介绍基于 Bio-BERT 的命名实体标注系统。实验结果表明,我们的模型相较基线有显著提升,在 F1 分数上位列第四,在召回率上位列第二,仅以 2.21 的 F1 分数落后于最佳模型。
引用
@article{arxiv.2012.11145,
title = {Domain specific BERT representation for Named Entity Recognition of lab protocol},
author = {Tejas Vaidhya and Ayush Kaushal},
journal= {arXiv preprint arXiv:2012.11145},
year = {2020}
}
备注
EMNLP 2020 Workshop; 5 pages