基于人类反馈的神经机器翻译非参数在线学习
计算与语言
2021-12-15 v3
摘要
我们研究了人在回路机器翻译中带人类反馈的在线学习问题,其中人工译员修订机器生成的译文,随后校正后的译文被用于改进神经机器翻译(NMT)系统。然而,以往方法需要在线模型更新或额外的翻译记忆网络以获得高质量性能,使其在实际应用中缺乏灵活性且效率低下。本文提出一种不改变模型结构的新型非参数在线学习方法。该方法引入两个 k-最近邻(knn) 模块:一个模块记忆人类反馈(即人工译员提供的正确句子),另一个自适应地平衡历史人类反馈与原始 NMT 模型的使用。在 EMEA 与 JRC-Acquis 基准上的实验表明,我们所提方法在翻译准确性上获得显著提升,并以更少的人工重复校正操作实现更好的自适应性能。
引用
@article{arxiv.2109.11136,
title = {Non-Parametric Online Learning from Human Feedback for Neural Machine Translation},
author = {Dongqi Wang and Haoran Wei and Zhirui Zhang and Shujian Huang and Jun Xie and Jiajun Chen},
journal= {arXiv preprint arXiv:2109.11136},
year = {2021}
}
备注
Accepted to the 36th AAAI Conference on Artificial Intelligence (AAAI 2022)