从通用到专用：基于域变换网络的多领域翻译
计算与语言
2019-11-25 v1
摘要
多领域翻译的关键挑战在于在统一模型中同时编码跨领域共享的通用知识以及各领域特有的专用知识。先前工作表明，在混合领域数据上训练的标准神经机器翻译（NMT）模型通常能捕捉通用知识，但遗漏领域特定知识。针对该问题，我们为 NMT 模型增补额外的域变换网络，将通用表示变换为领域特定表示，随后将其送入 NMT 解码器。为保证知识变换，我们还利用知识蒸馏和对抗学习的力量提出了两个互补的监督信号。在多个语言对（涵盖平衡与不平衡多领域翻译）上的实验结果证明了所提方法的有效性和通用性。令人鼓舞的是，所提统一模型取得了与微调方法相当的结果，而微调方法需要多个模型来保留专用知识。进一步分析揭示，域变换网络如预期般成功捕捉了领域特定知识。
引用
@article{arxiv.1911.09912,
title = {Go From the General to the Particular: Multi-Domain Translation with Domain Transformation Networks},
author = {Yong Wang and Longyue Wang and Shuming Shi and Victor O. K. Li and Zhaopeng Tu},
journal= {arXiv preprint arXiv:1911.09912},
year = {2019}
}
备注
AAAI 2020