中文

基于语义多样性增强对比演示选择以提升基于上下文的机器翻译鲁棒性

计算与语言 2025-04-15 v1

摘要

情境学习 (ICL) 通过对少量输入输出示例进行条件化,使大型语言模型能够执行任务。然而,ICL的性能对所选演示的选择高度敏感。虽然已有方法关注相似度或对比选择,但常常忽视所选示例多样性的重要性。本文提出一种 DiverseConE (多样性增强对比示例选择) 方法,用于机器翻译中的演示选择。该方法基于对比选择方法,引入基于嵌入空间异质性的多样性增强步骤。我们在Llama2-7b模型上进行大量实验,覆盖英中、中英、俄德、德俄四种语言对,采用1-shot和3-shot设置,使用COMET20和COMET22进行评估。我们的结果表明,DiverseConE consistently 超过强基准方法,包括随机选择、BM25、TopK和一种最新对比选择方法。进一步分析,包括多样性指标和人类评估,验证了该方法的有效性,并突显了考虑演示多样性以提高翻译质量的优势。

关键词

引用

@article{arxiv.2504.09305,
  title  = {Enhancing Contrastive Demonstration Selection with Semantic Diversity for Robust In-Context Machine Translation},
  author = {Owen Patterson and Chee Ng},
  journal= {arXiv preprint arXiv:2504.09305},
  year   = {2025}
}