TENER：适配Transformer编码器用于命名实体识别
计算与语言
2019-12-11 v3 机器学习
摘要
双向长短期记忆网络（BiLSTM）已广泛用作解决命名实体识别（NER）任务模型中的编码器。近来，Transformer因其并行性与优越性能而被广泛采用于各类自然语言处理（NLP）任务。然而，Transformer在NER中的表现不如在其他NLP任务中好。本文提出TENER，一种采用适配Transformer编码器的NER架构，以建模字符级与词级特征。通过引入方向及相对距离感知注意力与未缩放注意力，我们证明类Transformer编码器对NER与其他NLP任务同样有效。
引用
@article{arxiv.1911.04474,
title = {TENER: Adapting Transformer Encoder for Named Entity Recognition},
author = {Hang Yan and Bocao Deng and Xiaonan Li and Xipeng Qiu},
journal= {arXiv preprint arXiv:1911.04474},
year = {2019}
}
备注
Corrept typos, update performance based on the public available codes