基于 actor-critic 训练的高效序列标注
机器学习
2018-10-02 v1 人工智能
计算与语言
机器学习
摘要
神经序列标注方法常使用条件随机场（CRF）来建模其输出依赖关系，而循环神经网络（RNN）在其他任务中用于相同目的。我们着手确立 RNN 作为 CRF 在序列标注中一个有吸引力的替代方案。为此，我们解决 RNN 最显著的缺点之一，即它在最大似然训练下不会接触到自身的错误。我们将输出序列的预测框定为序贯决策过程，其中我们用一种调整后的 actor-critic 算法（AC-RNN）训练网络。我们在三个结构化输出任务上全面比较了该策略与 RNN 和 CRF 的最大似然训练。所提出的 AC-RNN 在 NER 和 CCG 标注上高效匹配了 CRF 的性能，并在机器音译上优于它。我们还表明，我们的训练策略显著优于其他解决 RNN 暴露偏差的技术，例如 Scheduled Sampling 和 Self-Critical 策略训练。
引用
@article{arxiv.1810.00428,
title = {Efficient Sequence Labeling with Actor-Critic Training},
author = {Saeed Najafi and Colin Cherry and Grzegorz Kondrak},
journal= {arXiv preprint arXiv:1810.00428},
year = {2018}
}