EuroLLM-22B:技术报告
计算与语言
2026-02-06 v1 人工智能
机器学习
摘要
本报告介绍EuroLLM-22B,这是一款从零训练而成的人工智能语言模型,旨在满足欧洲公民的需求,通过覆盖所有24种欧盟官方语言以及11种其他语言。EuroLLM解决了欧洲语言在现有开放型大型语言模型中被低估和不被服务的问题。我们提供了EuroLLM-22B开发的全面概述,包括词汇化器设计、架构规格、数据过滤和训练程序。在广泛的多语言基准测试中,EuroLLM-22B在推理、指令遵循和翻译方面表现出色,与同等规模的模型取得了竞争成绩。为支持未来研究,我们发布了我们的基础模型和指令微调模型、我们的多语言网络预训练数据和更新后的EuroBlocks指令数据集,以及我们的预训练和评估代码库。
引用
@article{arxiv.2602.05879,
title = {EuroLLM-22B: Technical Report},
author = {Miguel Moura Ramos and Duarte M. Alves and Hippolyte Gisserot-Boukhlef and João Alves and Pedro Henrique Martins and Patrick Fernandes and José Pombal and Nuno M. Guerreiro and Ricardo Rei and Nicolas Boizard and Amin Farajian and Mateusz Klimaszewski and José G. C. de Souza and Barry Haddow and François Yvon and Pierre Colombo and Alexandra Birch and André F. T. Martins},
journal= {arXiv preprint arXiv:2602.05879},
year = {2026}
}