基于GPU的可训练最近邻机器翻译
人工智能
2024-08-20 v2
摘要
最近邻机器翻译是快速领域适应的成功方法，通过在不重新训练的情况下对预训练变压器与特定于领域的标记级k最近邻（kNN）检索进行插值。尽管kNN MT已取得成功，搜索大型参考语料库以及kNN与预训练模型之间的固定插值导致了计算复杂度和翻译质量挑战。在其他一些论文中，Dai等人提出了方法来获得一小部分参考样本，以动态方式进行自适应构建，他们引入一种包含自由参数的距离感知插值方法。本文提出一种可训练的最近邻机器翻译，并在GPU上进行推理实验。类似于Dai等人，我们首先自适应地为每个输入句子构建小型数据存储。其次，我们训练一个单层网络用于kNN MT与预训练结果之间的插值系数，以在不同领域中自动进行插值。不同领域的实验结果表明，我们提出的方法要么改进了Dai等人的翻译质量，要么在某些情况下保持翻译质量，而且是自动化的。此外，我们的GPU推理结果表明，kNN MT可以与GPU集成，仅在速度方面有5%的下降。
引用
@article{arxiv.2407.19965,
title = {Simply Trainable Nearest Neighbour Machine Translation with GPU Inference},
author = {Hossam Amer and Abdelrahman Abouelenin and Mohamed Maher and Evram Narouz and Mohamed Afify and Hany Awadallah},
journal= {arXiv preprint arXiv:2407.19965},
year = {2024}
}
备注
6 pages