Breeze 2 Herd：基于 Llama 的面向繁体中文的多模态语言模型
计算与语言
2025-02-12 v3
摘要
Llama-Breeze2（以下简称 Breeze2）是一套先进的多模态语言模型套装，提供 3B 和 8B 参数配置，专为提升繁体中文语言表示而设计。基于 Llama 3.2 模型家族，我们在广泛语料上继续预训练 Breeze2，以增强其在繁体中文方面的语言与文化遗产。除了语言建模能力外，我们显著增强了模型的函数调用与视觉理解能力。据我们所知，Breeze2 在不使用引导推理提示的情况下，是其规模等级中最强大的繁体中文函数调用和图像理解模型。Breeze2 的效果通过包括台湾通识知识、指令遵循、长文本、函数调用和视觉理解等多个任务进行基准测试。我们将所有 Breeze2 模型在 Llama 3.2 社区许可证下公开发布。我们还展示了在移动平台上运行模型的能力，发布了一个我们也开源的移动应用程序。
引用
@article{arxiv.2501.13921,
title = {The Breeze 2 Herd of Models: Traditional Chinese LLMs Based on Llama with Vision-Aware and Function-Calling Capabilities},
author = {MediaTek Research and : and Chan-Jan Hsu and Chia-Sheng Liu and Meng-Hsi Chen and Muxi Chen and Po-Chun Hsu and Yi-Chang Chen and Da-Shan Shiu},
journal= {arXiv preprint arXiv:2501.13921},
year = {2025}
}