基于密集连接网络的字符级特征提取
计算与语言
2018-07-27 v2
摘要
生成字符级特征是各种自然语言处理任务取得良好结果的重要步骤。为减轻人工设计特征的人力需求，已提出利用卷积神经网络（CNN）或循环神经网络（RNN）等神经架构自动提取此类特征的方法，并展现出优异效果。然而，CNN 生成位置无关特征，而 RNN 由于需顺序处理字符而速度较慢。本文提出一种使用密集连接网络自动提取字符级特征的新方法。所提方法不需要任何语言或任务特定假设，并且在比基于 CNN 或 RNN 的方法更快的同时表现出鲁棒性与有效性。在三个序列标注任务——槽位标注、词性（POS）标注与命名实体识别（NER）——上评估该方法，我们分别在槽位标注与 POS 标注上以 96.62 F1 分数和 97.73% 准确率取得最优性能，并在 NER 上取得与最优 91.13 F1 分数相当的性能。
引用
@article{arxiv.1806.09089,
title = {Character-Level Feature Extraction with Densely Connected Networks},
author = {Chanhee Lee and Young-Bum Kim and Dongyub Lee and HeuiSeok Lim},
journal= {arXiv preprint arXiv:1806.09089},
year = {2018}
}
备注
12 pages, 4 figures, accepted as a conference paper at COLING 2018