以多语言 paraphrasing 识别与生成任务度量多语 NMT 的语义抽象
计算与语言
2019-05-06 v2
摘要
本文中,我们研究多语言神经翻译模型是否比双语模型学到更强的句子语义抽象。我们通过测量此类模型应用于源语言释义时的困惑度来验证该假设。其直觉在于:若解码器能够识别同一语言中的同义句(尽管模型从未为该任务训练),则编码器产生了更好的表示。在我们的设定中,我们向一个双向双语基线模型(英-法)添加 16 种不同的辅助语言,并用英语域内与域外释义进行测试。结果显示各情形下困惑度均显著降低,表明意义可在翻译中 grounding。文末包含的释义生成研究进一步支持了这一点。
引用
@article{arxiv.1808.06826,
title = {Measuring Semantic Abstraction of Multilingual NMT with Paraphrase Recognition and Generation Tasks},
author = {Jörg Tiedemann and Yves Scherrer},
journal= {arXiv preprint arXiv:1808.06826},
year = {2019}
}