从大语言模型到神经机器翻译：Claude 在低资源机器翻译中的突破
计算与语言
2024-04-23 v1 人工智能
摘要
我们展示了 Anthropic 在 2024 年 3 月发布的 Claude 3 Opus 大语言模型 (LLM)，在机器翻译能力上优于其他大语言模型。尽管我们发现 Claude 在 FLORES-200 上的数据污染证据，但我们构建了新的基准测试来证明 Claude 在低资源机器翻译（尤其是翻译成英文）中的有效性。我们发现 Claude 具有显著的资源效率 —— 即翻译模型的质量依赖于语言对资源水平的程度。最后，我们展示了 LLM 翻译的进步可以压缩到传统神经机器翻译 (NMT) 模型中。使用 Claude 生成合成数据，我们证明了知识蒸馏在 Yoruba-英语翻译中达到最新进展，甚至超过了 NLLB-54B 和 Google Translate 等强大基线。
引用
@article{arxiv.2404.13813,
title = {From LLM to NMT: Advancing Low-Resource Machine Translation with Claude},
author = {Maxim Enis and Mark Hopkins},
journal= {arXiv preprint arXiv:2404.13813},
year = {2024}
}
备注
17 pages, 15 figures