面向基于枢轴的非自回归 Transformer 神经机器翻译的强化学习
计算与语言
2021-09-28 v1
摘要
基于枢轴的神经机器翻译（NMT）常用于低资源设置，尤其用于非英语语言对之间的翻译。它受益于使用高资源的源-枢轴与枢轴-目标语言对，并为两个子任务各自训练独立系统。然而，这些模型在训练期间无关联，且源-枢轴模型未被优化以产生源-目标任务的最佳翻译。本工作中，我们提出用强化学习（RL）方法训练基于枢轴的 NMT 系统，该方法已被研究用于包括机器翻译（MT）在内的多种文本生成任务。我们利用非自回归 transformer 并给出一个端到端基于枢轴的集成模型，从而能够在源-目标数据上训练。
引用
@article{arxiv.2109.13097,
title = {Towards Reinforcement Learning for Pivot-based Neural Machine Translation with Non-autoregressive Transformer},
author = {Evgeniia Tokarchuk and Jan Rosendahl and Weiyue Wang and Pavel Petrushkov and Tomer Lancewicki and Shahram Khadivi and Hermann Ney},
journal= {arXiv preprint arXiv:2109.13097},
year = {2021}
}
备注
RL4RealLife Workshop 2021 camera-ready