SEPT：以跨度表示改进科学命名实体识别
计算与语言
2020-10-14 v2 信息检索
摘要
我们介绍了一种称为SEPT的新型科学命名实体识别器，其全称为Span Extractor with Pre-trained Transformers（基于预训练Transformer的跨度抽取器）。在近期文献中，跨度抽取器已被证明是比序列标注模型更强大的模型。然而，我们发现随着预训练语言模型的发展，跨度抽取器的性能似乎变得与序列标注模型相近。为保持跨度表示的优势，我们通过下采样修改模型以平衡正负样本并缩减搜索空间。此外，我们简化了原始网络架构，将跨度抽取器与BERT相结合。实验表明，即便简化架构也达到同等性能，且SEPT即使在未引入关系信息的情况下也取得了科学命名实体识别的新的SOTA结果。
引用
@article{arxiv.1911.03353,
title = {SEPT: Improving Scientific Named Entity Recognition with Span Representation},
author = {Tan Yan and Heyan Huang and Xian-Ling Mao},
journal= {arXiv preprint arXiv:1911.03353},
year = {2020}
}
备注
This work is outdated. The result should not be trusted