Krikri：为希腊语推进开放大型语言模型
计算与语言
2025-06-02 v2
摘要
我们介绍 Llama-Krikri-8B，这是一个面向希腊语的前沿大型语言模型，基于 Meta 的 Llama 3.1-8B 构建。Llama-Krikri-8B 在高质量希腊语数据上进行了广泛训练，以确保对语言细微差别的优异适应。拥有 80 亿参数， Llama-Krikri-8B 在保持高效计算性能的同时提供了先进的功能。Llama-Krikri-8B 支持现代希腊语和英语，并且能够处理多音节文本和古希腊语。Llama-Krikri-8B 的聊天版本采用多阶段后训练流程，利用人类和合成指令及偏好数据，应用诸如 MAGPIE 等技术。此外，为了评估，我们提出了三个新的公共希腊语基准。我们的评估在现有以及我们提出的基准上显示，Llama-Krikri-8B 在自然语言理解与生成以及代码生成方面均显著优于可比希腊语和多语言 LLM。
引用
@article{arxiv.2505.13772,
title = {Krikri: Advancing Open Large Language Models for Greek},
author = {Dimitris Roussis and Leon Voukoutis and Georgios Paraskevopoulos and Sokratis Sofianopoulos and Prokopis Prokopidis and Vassilis Papavasileiou and Athanasios Katsamanis and Stelios Piperidis and Vassilis Katsouros},
journal= {arXiv preprint arXiv:2505.13772},
year = {2025}
}