中文

翻译的上下文精炼:用于句子级与文档级译后编辑的大语言模型

计算与语言 2024-03-20 v2 人工智能

摘要

大语言模型(LLM)在各种自然语言处理任务中已展现出相当的成功,但在神经机器翻译(NMT)中尚未达到最先进的性能。尽管如此,它们在需要广泛理解与上下文处理的任务中的显著表现显示了其在翻译方面的潜力。为利用这些能力,我们研究了将LLM用于机器翻译,并探索了近期参数高效微调技术。令人惊讶的是,我们的初步实验发现,为翻译目的进行微调甚至导致了性能下降。为克服这一点,我们提出了一种替代方法:将LLM适配为自动译后编辑器(APE)而非直接翻译器。基于LLM处理和生成长序列的卓越能力,我们还提出将我们的方法扩展到文档级翻译。我们表明,利用低秩适配器(Low-Rank-Adapter)微调用于APE可以在句子级和文档级指标上带来显著提升,同时泛化到域外数据。最值得注意的是,我们在ContraPro测试集上实现了89%的最先进准确率,该测试集专门评估模型在从英语译为德语时解决代词歧义的能力。最后,我们研究了一个涉及文档级翻译人工译后编辑的实际场景,其中提供了参考上下文。在此,我们证明利用人工修正可以显著减少后续翻译所需的编辑次数(用于整合人工反馈的交互式演示可在此处找到:https://huggingface.co/spaces/skoneru/contextual_refinement_ende)。

关键词

引用

@article{arxiv.2310.14855,
  title  = {Contextual Refinement of Translations: Large Language Models for Sentence and Document-Level Post-Editing},
  author = {Sai Koneru and Miriam Exel and Matthias Huck and Jan Niehues},
  journal= {arXiv preprint arXiv:2310.14855},
  year   = {2024}
}

备注

NAACL 2024