ngram-OAXE：用于非自回归机器翻译的基于短语的顺序无关交叉熵
计算与语言
2022-10-11 v1
摘要
近来，一种新的训练oaxe损失被证明能有效缓解非自回归翻译(NAT)中的多模态问题，其去除了标准交叉熵损失中对词序错误的惩罚。从重排序通常发生于短语之间的直觉出发，我们通过仅允许ngram短语之间的重排序且仍要求短语内词序严格匹配来扩展oaxe。跨语言对与数据规模在NAT基准上的大量实验证明了我们方法的有效性与通用性。进一步分析表明ngram-oaxe确实改善了ngram短语的翻译，并通过更好的句子结构建模产生了更流畅的翻译。
引用
@article{arxiv.2210.03999,
title = {ngram-OAXE: Phrase-Based Order-Agnostic Cross Entropy for Non-Autoregressive Machine Translation},
author = {Cunxiao Du and Zhaopeng Tu and Longyue Wang and Jing Jiang},
journal= {arXiv preprint arXiv:2210.03999},
year = {2022}
}
备注
COLING 2022 Oral. arXiv admin note: text overlap with arXiv:2106.05093