GNN-SL：基于图神经网络近邻样例的序列标注
计算与语言
2022-12-13 v2
摘要
为了更好地处理序列标注（SL）任务中的长尾情况，本文引入图神经网络序列标注（GNN-SL），其利用从整个训练集中检索到的相似标注样例来增强原始SL模型的输出。由于并非所有检索到的标注样例都有助于模型预测，我们构建了一个异构图，并利用图神经网络（GNNs）在检索到的标注样例与输入词序列之间传递信息。聚合了邻居信息的增强节点被用于进行预测。该策略使模型能够直接获取相似的标注样例，并提升预测的整体质量。我们在三个典型的序列标注任务上进行了多种实验：命名实体识别（NER）、词性标注（POS）和中文分词（CWS），以展示我们GNN-SL的显著性能。值得注意的是，GNN-SL在CWS任务上取得了SOTA结果：PKU上96.9（+0.2）、CITYU上98.3（+0.4）、MSR上98.5（+0.2）、AS上96.9（+0.2），并在NER数据集和POS数据集上取得了与SOTA相当的性能。
引用
@article{arxiv.2212.02017,
title = {GNN-SL: Sequence Labeling Based on Nearest Examples via GNN},
author = {Shuhe Wang and Yuxian Meng and Rongbin Ouyang and Jiwei Li and Tianwei Zhang and Lingjuan Lyu and Guoyin Wang},
journal= {arXiv preprint arXiv:2212.02017},
year = {2022}
}
备注
preprint