利用可信数据与在线数据选择对神经机器翻译训练去噪
计算与语言
2018-09-05 v1 机器学习
机器学习
摘要
衡量数据的领域相关性以及为机器翻译(MT)识别或筛选适配领域的数据是一个被充分研究的课题,但去噪尚属空白。去噪关注另一种类型的数据质量,并试图降低数据噪声对 MT 训练(尤其是神经 MT(NMT)训练)的负面影响。本文推广了用于领域 MT 数据度量与选择的方法,并将其应用于 NMT 训练去噪。所提方法使用可信数据以及通过在线数据选择实现的去噪课程。对该方法的内在与外在评测表明,其在 NMT 于严重噪声数据上训练时具有显著有效性。
引用
@article{arxiv.1809.00068,
title = {Denoising Neural Machine Translation Training with Trusted Data and Online Data Selection},
author = {Wei Wang and Taro Watanabe and Macduff Hughes and Tetsuji Nakagawa and Ciprian Chelba},
journal= {arXiv preprint arXiv:1809.00068},
year = {2018}
}
备注
11 pages, 2018 Third Conference on Machine Translation (WMT18)