AIN：基于近似推断网络实现快速准确的序列标注
计算与语言
2020-10-13 v2 人工智能
摘要
线性链条件随机场（CRF）模型是应用最广泛的神经序列标注方法之一。CRF模型在训练与预测阶段通常采用前向-后向算法和Viterbi算法等精确概率推断算法。然而，这些算法需要顺序计算，无法并行化。本文提出将一种可并行化的近似变分推断算法用于CRF模型。基于该算法，我们设计了一个近似推断网络，可与神经CRF模型的编码器连接形成端到端网络，便于并行化以加速训练与预测。实验结果表明，相较于传统CRF方法，我们所提方法在长句上解码速度提升12.7倍且精度具有竞争力。
引用
@article{arxiv.2009.08229,
title = {AIN: Fast and Accurate Sequence Labeling with Approximate Inference Network},
author = {Xinyu Wang and Yong Jiang and Nguyen Bach and Tao Wang and Zhongqiang Huang and Fei Huang and Kewei Tu},
journal= {arXiv preprint arXiv:2009.08229},
year = {2020}
}
备注
Accept to Main Conference of EMNLP 2020 (Short). Camera-ready, 8 Pages