DRT：基于长链思考的深度推理翻译

最近，O1 类模型已成为长链思考（CoT）在数学和编码任务等推理任务中展现有效性的典型代表。本文介绍 DRT（Deep Reasoning Translation），旨在将长 CoT 的成功引入神经机器翻译（MT）。具体而言，针对可能包含隐喻和比喻的文学作品，由于文化差异，翻译这些文本到目标语言在实际中极难，直译往往无法有效传递原意。即便是专业人类译者，也需要在翻译过程中花费大量思考来保持语义。为模拟大语言模型在 MT 中的长时间思考能力，我们首先从现有文学作品中挖掘包含隐喻或比喻的句子，然后开发一个多智能体框架，通过长思考来翻译这些句子。在该多智能体框架中，使用译者在顾问提供的建议下进行迭代翻译。为确保长思考的有效性，还引入评估者来量化每轮的翻译质量。如此一来，我们收集了数万条长思考 MT 数据，用于训练 DRT。使用 Qwen2.5 和 Llama-3.1 作为底层模型，DRT 模型能够学习机器翻译中的思考过程， outperform vanilla LLMs 以及仅在配对句子上进行简单微调而不进行长思考的 LLMs，显示出其有效性。合成数据和模型检查点已发布于 https://github.com/krystalan/DRT。