论无监督神经机器翻译的复制问题：带语言判别器损失的训练调度

尽管无监督神经机器翻译（UNMT）已在许多语言对上取得成功，但复制问题（即直接将输入句子的某些部分复制为译文）在远距离语言对间十分常见，尤其在涉及低资源语言时。我们发现此问题与在线反向翻译（BT）期间一种意外的复制行为密切相关。在本工作中，我们提出一种简单而有效的训练调度，其融入了语言判别器损失。该损失对中间翻译施加约束，使翻译处于目标语言。通过在不同语言对（包括相似与远距离、高资源与低资源语言）上进行大量实验，我们发现我们的方法缓解了复制问题，从而提升了低资源语言上的翻译性能。