神经机器翻译中的课程学习与小批量分桶
计算与语言
2020-07-09 v1
摘要
我们研究了特定句对排序对神经机器翻译（NMT）在线训练的影响。我们关注两类排序：(1) 确保每个小批量包含在某些方面相似的句子，以及 (2) 随着训练推进逐步纳入某些句子类型（即所谓的“课程学习”）。在我们的英语到捷克语实验中，小批量的内部同质性对训练没有影响，但我们的一些“课程”相比基线取得了小幅提升。
引用
@article{arxiv.1707.09533,
title = {Curriculum Learning and Minibatch Bucketing in Neural Machine Translation},
author = {Tom Kocmi and Ondrej Bojar},
journal= {arXiv preprint arXiv:1707.09533},
year = {2020}
}
备注
Accepted to RANLP 2017