迈向更快的k近邻机器翻译
计算与语言
2025-01-07 v2 神经与进化计算
摘要
近期的工作已经证明了k近邻机器翻译（kNN-MT）方法的有效性，该方法在跨领域翻译中产生了显著的改进。然而，这些模型在解码每个词元时会在整个数据存储库上承受沉重的检索开销。我们观察到，在解码阶段，大约67%到84%的词元在语料库数据存储库上搜索后并未发生改变，这意味着大多数词元导致了徒劳的检索，并通过发起k近邻搜索引入了不必要的计算成本。我们认为这一现象在语言学上是可解释的，并提出了一种简单而有效的多层感知机（MLP）网络，用于预测一个词元是应该由神经机器翻译模型和kNN产生的概率联合翻译，还是仅由神经模型翻译。结果表明，我们的方法成功减少了冗余的检索操作，并以翻译质量的轻微下降为代价，将kNN检索的开销显著降低了高达53%。此外，我们的方法可以与所有现有的kNN-MT系统协同工作。这项工作已被《Advances in Artificial Intelligence and Machine Learning》（ISSN: 2582-9793）期刊接收发表。最终出版版本可在DOI: https://dx.doi.org/10.54364/AAIML.2024.41111 找到。
引用
@article{arxiv.2312.07419,
title = {Towards Faster k-Nearest-Neighbor Machine Translation},
author = {Xiangyu Shi and Yunlong Liang and Jinan Xu and Yufeng Chen},
journal= {arXiv preprint arXiv:2312.07419},
year = {2025}
}
备注
7 pages