无监督神经机器翻译的实证研究:分析 NMT 输出、模型行为及句子贡献度
计算与语言
2023-12-21 v1
摘要
无监督神经机器翻译(UNMT)侧重于在没有人工翻译平行数据的假设下改进 NMT 结果,然而目前鲜有工作突出其相较于监督方法的优势,或从翻译准确率以外的角度分析其输出。我们聚焦于法语、古吉拉特语和哈萨克语这三种差异极大的语言,训练了与英语互译的双语 NMT 模型,涵盖不同监督级别以及高资源和低资源设置,测量 NMT 输出质量,并比较生成序列与源句子及参考句子在词序和语义相似度方面的表现。我们还利用分层相关性传播(Layer-wise Relevance Propagation)评估源句子和目标句子对结果的贡献,将先前工作的发现扩展至 UNMT 范式。
引用
@article{arxiv.2312.12588,
title = {An Empirical study of Unsupervised Neural Machine Translation: analyzing NMT output, model's behavior and sentences' contribution},
author = {Isidora Chara Tourni and Derry Wijaya},
journal= {arXiv preprint arXiv:2312.12588},
year = {2023}
}