带探索的训练改进贪婪栈式LSTM解析器
计算与语言
2016-09-14 v2
摘要
我们调整了 Dyer 等人 (2015) 的贪婪栈式LSTM依存解析器，使其支持使用动态预言器(dynamic oracles) (Goldberg and Nivre, 2013) 而非交叉熵最小化的探索式训练过程。这种训练形式在训练时考虑模型预测，而非假设无错误的动作历史，从而提升了英语和汉语的解析准确率，在两种语言上均取得非常强劲的结果。我们讨论了为使探索式训练在概率神经网络上良好运作所需的一些修改。
引用
@article{arxiv.1603.03793,
title = {Training with Exploration Improves a Greedy Stack-LSTM Parser},
author = {Miguel Ballesteros and Yoav Goldberg and Chris Dyer and Noah A. Smith},
journal= {arXiv preprint arXiv:1603.03793},
year = {2016}
}
备注
In proceedings of EMNLP 2016