一种用于机器翻译重排序的贝叶斯优化方法

使用外部评分模型对机器翻译系统的候选列表进行重排序并返回得分最高的候选，仍然是提高整体输出质量的一种简单有效的方法。翻译评分模型的规模持续增长，最好的模型已与生成模型规模相当。因此，重排序会给翻译流程带来巨大的计算开销。在本文中，我们将重排序建模为贝叶斯优化（BayesOpt）问题。通过基于探索与利用的平衡策略性地选择待评分的候选，我们展示了仅对候选列表的一小部分进行评分即可找到得分最高的候选。例如，与使用180次评分的基线系统相比，我们的方法仅用70次评分即可达到相同的CometKiwi分数。我们提出了一种多保真度贝叶斯优化设置，即首先使用更廉价但噪声更大的代理评分模型对候选进行评分，当使用更小但训练良好的蒸馏代理评分器时，这进一步改善了成本-性能权衡。