CUNI 系统在 2019 年教育应用构建共享任务中的语法错误校正
计算与语言
2019-09-13 v1
摘要
在本文中，我们描述了提交给 2019 年教育应用构建（BEA）共享任务（Bryant 等人，2019）的系统。我们参与了全部三个赛道。我们的模型是基于 Transformer 模型的神经机器翻译（NMT）系统，我们通过加入若干增强来改进：对完整的源词和目标词应用 dropout、对目标子词加权、平均模型检查点，以及迭代使用训练好的模型来校正中间翻译。受限赛道中的系统在使用过采样的“更干净”句子提供的语料库上训练，在测试集上达到 59.39 的 F0.5 分数。低资源赛道中的系统从维基百科修订历史训练，达到 44.13 的 F0.5 分数。最后，我们将低资源赛道的系统在受限数据上微调，取得 64.55 的 F0.5 分数，在无限制赛道中排名第三。
引用
@article{arxiv.1909.05553,
title = {CUNI System for the Building Educational Applications 2019 Shared Task: Grammatical Error Correction},
author = {Jakub Náplava and Milan Straka},
journal= {arXiv preprint arXiv:1909.05553},
year = {2019}
}