LCS：面向零样本神经机器翻译的语言转换策略
计算与语言
2024-06-07 v2 人工智能
摘要
多语言神经机器翻译模型通常通过源句或目标句前的语言标签来区分翻译方向。然而，当前的LT策略在零样本翻译中无法按预期指示期望的目标语言，即存在脱靶问题。我们的分析表明，目标语言的指示对目标LT的放置位置敏感。例如，当将目标LT放置在解码器侧时，指示会随着解码步骤迅速退化；而将目标LT放置在编码器侧则会导致复制或改写源输入。为解决上述问题，我们提出了一种简单而有效的策略，称为语言转换策略。通过将目标语言嵌入引入顶层编码器层，LCS减轻了编码器中的混淆，并确保了解码器稳定的语言指示。在MultiUN、TED和OPUS-100数据集上的实验结果表明，LCS能够显著缓解脱靶问题，语言准确率分别达到95.28%、96.21%和85.35%，同时在零样本翻译上分别比原始LT策略高出3.07、3.3和7.93个BLEU分数。
引用
@article{arxiv.2406.02876,
title = {LCS: A Language Converter Strategy for Zero-Shot Neural Machine Translation},
author = {Zengkui Sun and Yijin Liu and Fandong Meng and Jinan Xu and Yufeng Chen and Jie Zhou},
journal= {arXiv preprint arXiv:2406.02876},
year = {2024}
}
备注
ACL2024 Findings, Codes are at https://github.com/Acerkoo/LCS