重新思考翻译记忆增强神经机器翻译
计算与语言
2023-06-13 v1 人工智能
摘要
本文从两个视角重新思考翻译记忆增强神经机器翻译（TM-augmented NMT）：检索的概率视角与方差-偏差分解原理。研究结果表明，TM-augmented NMT 擅长数据拟合能力（即较低偏差），但对训练数据中的波动更为敏感（即较高方差），这为近期在同一翻译任务上报道的矛盾现象提供了解释：在高资源场景下 TM-augmented NMT 大幅领先原始 NMT，而在低资源场景下却表现不佳。随后我们提出一种简单而有效的 TM-augmented NMT 模型以降低方差并解决该矛盾现象。大量实验表明，所提 TM-augmented NMT 在低资源与即插即用两种偏好低方差场景以及高资源场景下，相比常规 NMT 与现有 TM-augmented NMT 均取得一致增益。
引用
@article{arxiv.2306.06948,
title = {Rethinking Translation Memory Augmented Neural Machine Translation},
author = {Hongkun Hao and Guoping Huang and Lemao Liu and Zhirui Zhang and Shuming Shi and Rui Wang},
journal= {arXiv preprint arXiv:2306.06948},
year = {2023}
}
备注
15 pages, 2 figures, accepted by ACL2023 findings