双语至少含单语(BALM):一种编码单语先验的新型翻译算法
计算与语言
2019-09-04 v1 机器学习
摘要
最先进的机器翻译(MT)模型未利用任何单一语言结构知识;这等同于要求一个人在既不懂英语也不懂德语的情况下进行英德翻译。BALM 是一个将单语先验引入 MT 流程的框架;通过使用 BERT 将输入与输出语言投射至嵌入空间,我们可用简单得多的模型解决机器翻译。我们发现,在 BALM 框架下,Multi30k 数据集上的英德翻译可用简单前馈网络求解,并取得接近 SOTA 的 BLEU 分数。
引用
@article{arxiv.1909.01146,
title = {Bilingual is At Least Monolingual (BALM): A Novel Translation Algorithm that Encodes Monolingual Priors},
author = {Jeffrey Cheng and Chris Callison-Burch},
journal= {arXiv preprint arXiv:1909.01146},
year = {2019}
}
备注
15 pages