中文

Bandit 不循规蹈矩:用多臂 Bandit 平衡多面向机器翻译

计算与语言 2021-10-15 v1 人工智能

摘要

机器翻译(MT)的训练数据通常来源于大量本质上多面向的大型语料库,例如包含来自多个领域的内容,或不同质量与复杂度级别的内容。自然地,这些面向出现的频率并不相等,对于手头的测试场景而言它们的重要性也不尽相同。在这项工作中,我们提出将这种平衡与 MT 模型参数联合优化,以将系统开发者从人工调度设计中解放出来。训练一个多臂 bandit(multi-armed bandit)来动态地在各面向之间做出最有益于 MT 系统的选择。我们在三种不同的多面向应用上对其进行评估:平衡翻译体与自然训练数据,或来自多个领域或多个语言对的数据。我们发现 bandit 学习在各项任务上均能带来具有竞争力的 MT 系统,并且我们的分析为其学到的策略及底层数据集提供了见解。

关键词

引用

@article{arxiv.2110.06997,
  title  = {Bandits Don't Follow Rules: Balancing Multi-Facet Machine Translation with Multi-Armed Bandits},
  author = {Julia Kreutzer and David Vilar and Artem Sokolov},
  journal= {arXiv preprint arXiv:2110.06997},
  year   = {2021}
}

备注

EMNLP Findings 2021