RMBR：一种用于机器翻译的正则化最小贝叶斯风险重排序框架
计算与语言
2022-03-02 v1
摘要
束搜索是神经机器翻译（NMT）中使用最广泛的解码方法。实践中，从 n 个候选中选取对数概率最高的 top-1 候选作为优选结果。然而，该 top-1 候选未必是 n-best 列表中整体最优的翻译。近来，最小贝叶斯风险（MBR）解码被提出用于提升 NMT 质量，其寻求一个与 n-best 列表中其他候选平均距离最近的共识翻译。我们认为 MBR 仍存在以下问题：效用函数仅考虑候选间的词法级相似度；期望效用考虑整个 n-best 列表，耗时且尾部列表中的不充分候选可能损害性能；仅考虑候选间关系。为解决这些问题，我们设计了一种正则化 MBR 重排序框架（RMBR），其考虑基于语义的相似度，并通过截断列表来计算每个候选的期望效用。我们期望所提框架进一步考虑每个候选的翻译质量和模型不确定性。因此，将所提质量正则化器和不确定性正则化器纳入该框架。在多个翻译任务上的大量实验证明了我们方法的有效性。
引用
@article{arxiv.2203.00201,
title = {RMBR: A Regularized Minimum Bayes Risk Reranking Framework for Machine Translation},
author = {Yidan Zhang and Yu Wan and Dayiheng Liu and Baosong Yang and Zhenan He},
journal= {arXiv preprint arXiv:2203.00201},
year = {2022}
}
备注
10 pages