神经机器翻译模型的不合理波动性
计算与语言
2020-05-27 v1
摘要
近期工作表明神经机器翻译（NMT）模型取得了令人印象深刻的性能，然而关于理解这些模型行为的问题仍待解答。我们研究了 NMT 模型在输入语义与句法均正确时的意外波动性。我们发现，通过对源句进行微小修改，可识别出翻译发生“意外变化”的情况，最坏时导致误译。这种将极相似句子以惊人不同方式翻译的波动行为，凸显了当前 NMT 模型的底层泛化问题。我们发现 RNN 与 Transformer 模型分别在 26% 与 19% 的句子变体中表现出波动行为。
引用
@article{arxiv.2005.12398,
title = {The Unreasonable Volatility of Neural Machine Translation Models},
author = {Marzieh Fadaee and Christof Monz},
journal= {arXiv preprint arXiv:2005.12398},
year = {2020}
}
备注
Accepted to Neural Generation and Translation Workshop (WNGT) at ACL 2020