神经机器翻译的单队列解码
计算与语言
2017-07-11 v2
摘要
神经机器翻译模型依赖束搜索(beam search)算法进行解码。在实践中,我们发现由于固定的束宽,搜索空间中假设的质量受到负面影响。为缓解该问题,我们将所有假设存储在一个单一优先队列中,并使用通用打分函数进行假设选择。所提算法更灵活,因为被丢弃的假设可在后续步骤中重新访问。我们进一步设计了一个惩罚函数,以惩罚那些倾向于产生远长于或短于预期的最终翻译的假设。尽管简单,我们表明所提解码算法能够选择质量更好的假设并提升翻译性能。
引用
@article{arxiv.1707.01830,
title = {Single-Queue Decoding for Neural Machine Translation},
author = {Raphael Shu and Hideki Nakayama},
journal= {arXiv preprint arXiv:1707.01830},
year = {2017}
}