Fietje：一个面向荷兰语的开放高效 LLM
计算与语言
2025-08-05 v1
摘要
本文介绍了 Fietje，一个专为荷兰语设计的小型语言模型 (SLMs) 家族。该模型基于 Phi 2，一个具有 27 亿参数的以英语为中心的模型。Fietje 在发布时展示了与大型语言模型相媲美的结果。这项工作的核心重点是透明度和可复现性：Fietje 是完全开源的，模型权重、数据集、训练和评估代码均公开可访问。本文讨论了 Fietje 及许多其他模型在涵盖推理、情感分析、世界知识、语言可接受性和词义消歧的广泛基准测试套件上的性能。评估结果说明了 LLM 领域的快速进展，近期的小型模型表现优于为荷兰语微调的旧有大型模型。这一趋势预示着荷兰语处理的激动人心的未来，表明即使是紧凑的 LLM 也变得越来越有能力。此外，正在进行的和未来使 LLM 适应荷兰语的努力有望进一步增强这些模型，拓宽其适用性和可访问性。Fietje 只是改善荷兰语用户对语言技术可访问性的一个中间步骤。
引用
@article{arxiv.2412.15450,
title = {Fietje: An open, efficient LLM for Dutch},
author = {Bram Vanroy},
journal= {arXiv preprint arXiv:2412.15450},
year = {2025}
}