规划、注意、生成：在解码器中引入规划的字符级神经机器翻译
计算与语言
2017-06-26 v2 神经与进化计算
摘要
我们研究了将规划机制集成到具有显式对齐的编码器-解码架构中，用于字符级机器翻译。我们开发了一种模型，它在计算源序列和目标序列之间的对齐时会提前规划，构建一个提议的未来对齐矩阵以及一个控制是否遵循或重新计算该规划的承诺向量。该机制受战略注意力读写器（STRAW）模型启发。我们提出的模型是端到端可训练的，且具有完全可微的操作。我们表明，在 WMT'15 语料库上的三个字符级解码器神经机器翻译任务中，它优于强大的基线模型。我们的分析表明，我们的模型能够计算出定性上直观的对齐，并以更少的参数实现了卓越的性能。
引用
@article{arxiv.1706.05087,
title = {Plan, Attend, Generate: Character-level Neural Machine Translation with Planning in the Decoder},
author = {Caglar Gulcehre and Francis Dutil and Adam Trischler and Yoshua Bengio},
journal= {arXiv preprint arXiv:1706.05087},
year = {2017}
}
备注
Accepted to Rep4NLP 2017 Workshop at ACL 2017 Conference