为检索增强神经机器翻译从记忆库中检索示例：系统性比较
计算与语言
2024-04-04 v1
摘要
检索增强神经机器翻译 (RAMT) 架构从记忆库中检索示例以指导生成过程。虽然这一趋势中的大多数工作探索了利用检索示例的新方法，但上游检索步骤在很大程度上未被探索。在本文中，我们研究了改变检索方法对几种翻译架构的影响，以更好地理解这两个过程之间的相互作用。我们在多领域设置下的两个语言对中进行了实验，并考虑了基于标准自回归模型、基于编辑的模型以及具有上下文学习的大型语言模型的几种下游架构。我们的实验表明，检索技术的选择会影响翻译得分，且在不同架构间存在差异。我们还讨论了增加示例数量和多样性的影响，这在整体上大多是积极的。
关键词
引用
@article{arxiv.2404.02835,
title = {Retrieving Examples from Memory for Retrieval Augmented Neural Machine Translation: A Systematic Comparison},
author = {Maxime Bouthors and Josep Crego and Francois Yvon},
journal= {arXiv preprint arXiv:2404.02835},
year = {2024}
}