Mutarjim:基于小型语言模型推进双向阿拉伯语-英语翻译
计算与语言
2025-08-22 v2 人工智能
摘要
我们提出了 Mutarjim,一个用于双向阿拉伯语-英语翻译的紧凑而强大的语言模型。虽然大规模 LLM 在自然语言处理任务(包括机器翻译)中已取得令人瞩目的进展,但较小的模型同样具有潜力。基于这一洞察,我们基于 Kuwain-1.5B 开发了 Mutarjim,这是一款面向阿拉伯语和英语的语言模型。尽管其规模 modest,Mutarjim 在多个已建立的基准测试上优于更大的模型,这得益于优化的两阶段训练方法和精心策划的高质量训练语料。实验结果表明,Mutarjim 在计算成本和训练需求显著降低的情况下,性能可与体积大 20 倍的模型相媲美。我们还引入了 Tarjama-25,一个新的基准测试,旨在克服现有阿拉伯语-英语基准数据集的局限性,如领域狭窄、句子长度短和英语源偏差。Tarjama-25 包含 5,000 个专家审核的句子对,涵盖广泛的领域,提供更全面和平衡的评估框架。值得注意的是,Mutarjim 在 Tarjama-25 的英语到阿拉伯语任务上取得了最先进性能,甚至超越了体积大得多的专有模型如 GPT-4o mini。我们公开发布 Tarjama-25 以支持未来研究并推进阿拉伯语-英语翻译系统的评估。
引用
@article{arxiv.2505.17894,
title = {Mutarjim: Advancing Bidirectional Arabic-English Translation with a Small Language Model},
author = {Khalil Hennara and Muhammad Hreden and Mohamed Motaism Hamed and Zeina Aldallal and Sara Chrouf and Safwan AlModhayan},
journal= {arXiv preprint arXiv:2505.17894},
year = {2025}
}