面向多任务序列标注的门控任务交互框架
机器学习
2019-10-01 v1 计算与语言
机器学习
摘要
近期研究表明，神经模型可在不使用词性（POS）标签等语言特征的情况下，在若干序列标注/标记问题上取得高性能。这些模型仅以字符级与词嵌入向量作为输入进行训练。另一些研究则表明，语言特征可提升神经模型在组块分析（chunking）与命名实体识别（NER）等任务上的性能。然而，性能变化取决于语言特征与目标任务之间语义相关程度；在某些情况下，语言特征会对性能产生负面影响。本文提出一种新方法，通过一种称为门控任务交互（GTI）网络的多任务学习（MTL）框架，联合学习这些语言特征与目标序列标注任务，以求解多个序列标注任务。GTI 网络借助神经门模块挖掘多任务间的关系，这些门模块控制不同任务间的信息流动。在组块分析与 NER 的基准数据集上的实验表明，我们的框架优于其他使用与未使用外部训练资源的竞争性基线。
引用
@article{arxiv.1909.13193,
title = {Gated Task Interaction Framework for Multi-task Sequence Tagging},
author = {Isaac K. E. Ampomah and Sally McClean and Zhiwei Lin and Glenn Hawe},
journal= {arXiv preprint arXiv:1909.13193},
year = {2019}
}
备注
8 pages