聪明翻译而非蛮力翻译:基于质量感知的级联翻译系统
计算与语言
2025-02-19 v1 人工智能
机器学习
摘要
大型模型通常表现更好,但计算成本也更高。级联技术提供了潜在解决方案。默认情况下,它使用小型模型仅对部分实例 defer 给更大更强大的模型。然而,设计有效的 deferral 规则仍是一个挑战。本文提出一种简单而有效的机器翻译方法,采用现有的质量估计 (QE) 指标作为 deferral 规则。我们表明,基于 QE 的 deferral 允许级联系统在激活大型模型仅占少部分(30% 到 50%)的情况下,匹配更大模型的性能,从而显著降低计算成本。我们通过自动和人类评估均对该方法进行了验证。
引用
@article{arxiv.2502.12701,
title = {Translate Smart, not Hard: Cascaded Translation Systems with Quality-Aware Deferral},
author = {António Farinhas and Nuno M. Guerreiro and Sweta Agrawal and Ricardo Rei and André F. T. Martins},
journal= {arXiv preprint arXiv:2502.12701},
year = {2025}
}
备注
Preprint