中文

Sabi\'a-2:巴西语大型语言模型的新一代

计算与语言 2024-03-28 v2 人工智能

摘要

我们介绍了 Sabi\'a-2,这是一系列在巴西语文本上训练的大型语言模型。模型在多样化的考试中进行了评估,包括巴西大学的入学测试、专业资格考试以及涵盖会计、经济、工程、法律和医学等多个学科的研究生级考试。我们的结果显示,目前最好的型号 Sabi\'a-2 Medium 在 64 项考试中匹配或超越了 GPT-4 的表现,在 58 项考试中优于 GPT-3.5。值得注意的是,模型在专业化训练后,性能提升显著,无需增加模型规模,使我们能够以 GPT-4 价格的 1/10 提供 Sabi\'a-2 Medium。最后,我们识别出数学和编程是需要改进的关键能力。

关键词

引用

@article{arxiv.2403.09887,
  title  = {Sabi\'a-2: A New Generation of Portuguese Large Language Models},
  author = {Thales Sales Almeida and Hugo Abonizio and Rodrigo Nogueira and Ramon Pires},
  journal= {arXiv preprint arXiv:2403.09887},
  year   = {2024}
}