强化学习用于神经机器翻译的研究
机器学习
2018-08-28 v1 人工智能
机器学习
摘要
近期研究表明，强化学习（RL）是提升神经机器翻译（NMT）系统性能的有效方法。然而，由于其不稳定性，成功的 RL 训练具有挑战性，尤其是在利用深度模型与大型数据集的实际系统中。本文以多个大规模翻译任务为试验平台，对如何使用强化学习训练更优的 NMT 模型进行了系统研究。我们对 RL 训练中的若干重要因素（如基线奖励、奖励塑形）进行了全面比较。此外，为填补 monolingual 数据使用时 RL 是否仍有益处尚不清楚的空白，我们提出一种新方法，利用 RL 进一步提升使用源/目标单语数据训练的 NMT 系统性能。综合所有发现，我们在 WMT14 英德、WMT17 英中及 WMT17 中英语翻译任务上取得了具有竞争力的结果，尤其在 WMT17 中英语翻译任务上达到了最先进的性能。
引用
@article{arxiv.1808.08866,
title = {A Study of Reinforcement Learning for Neural Machine Translation},
author = {Lijun Wu and Fei Tian and Tao Qin and Jianhuang Lai and Tie-Yan Liu},
journal= {arXiv preprint arXiv:1808.08866},
year = {2018}
}
备注
EMNLP 2018