MT-BioNER：基于深度双向 Transformer 的生物医学命名实体识别多任务学习
计算与语言
2020-01-27 v1 机器学习
机器学习
摘要
Cortana、Alexa 和 Siri 等对话代理正不断通过添加新领域来增强其能力。对新领域的支持包括设计与开发若干用于领域分类、意图分类和槽位标注（含命名实体识别）的 NLU 组件。每个组件只有在大量标注数据上训练时才能表现良好。其次，这些组件部署于内存受限设备上，需要一定的模型压缩。第三，对于诸如健康领域等某些领域，很难找到覆盖所有所需槽类型的单一训练数据集。为克服上述这些问题，我们提出一种基于多任务 Transformer 的槽位标注神经架构。我们将使用覆盖不同槽类型的多个数据集训练槽位标注器视为多任务学习问题。在生物医学领域的实验结果表明，所提方法在时间和内存效率及有效性方面，优于先前在多个基准生物医学数据集上槽位标注的 SOTA 系统。输出的槽位标注器可被对话代理用于更好地识别输入话语中的实体。
引用
@article{arxiv.2001.08904,
title = {MT-BioNER: Multi-task Learning for Biomedical Named Entity Recognition using Deep Bidirectional Transformers},
author = {Muhammad Raza Khan and Morteza Ziyadi and Mohamed AbdelHady},
journal= {arXiv preprint arXiv:2001.08904},
year = {2020}
}