中文

CLewR:用于机器翻译偏好学习的带重启课程学习

计算与语言 2026-04-20 v2 人工智能 机器学习

摘要

大型语言模型(LLMs)在零样本多语言机器翻译(MT)中展现了具有竞争力的性能。一些后续工作通过偏好优化进一步提高了机器翻译性能,但它们在很大程度上未探索一个关键方面:训练期间数据样本的给出顺序。我们通过将课程学习集成到各种最先进的偏好优化算法中来提升机器翻译性能,从而探讨这一主题。我们引入了一种新颖的带重启课程学习策略(CLewR),该策略在训练期间多次重复从易到难的课程,以有效缓解对简单示例的灾难性遗忘。我们在多个模型家族(Gemma2、Qwen2.5、Llama3.1)和偏好优化技术上展示了持续的增益。我们在 https://github.com/alexandra-dragomir/CLewR 公开发布了我们的代码。

关键词

引用

@article{arxiv.2601.05858,
  title  = {CLewR: Curriculum Learning with Restarts for Machine Translation Preference Learning},
  author = {Alexandra Dragomir and Florin Brad and Radu Tudor Ionescu},
  journal= {arXiv preprint arXiv:2601.05858},
  year   = {2026}
}

备注

Accepted at ACL 2026