BlueLM-2.5-3B 技术报告
人工智能
2025-07-09 v1
摘要
我们介绍 BlueLM-2.5-3B，这是一个紧凑且统一的稠密多模态大语言模型 (MLLM)，旨在实现高效的边缘设备部署，具备强大的通用能力和推理能力。据我们所知，这是首个支持思考与非思考模式的 3B 规模 MLLM，同时可显式控制思考 token 预算。BlueLM-2.5-3B 通过多样化的数据策划、关键数据重采样、混合异构强化学习以及高性能训练基础建设实现。该模型在保持仅 29 亿参数的同时，实现了卓越的多模态能力，同时保持竞争的纯文本性能。我们在广泛的多模态和文本-only 基准测试上进行了全面评估。在思考模式下，BlueLM-2.5-3B 在文本-only 基准测试中表现与 Qwen3-4B 相当，在多模态评估中与更大的 Kimi-VL-A3B-16B 仅相差约 5%。在非思考模式下，BlueLM-2.5-3B 在大多数多模态基准测试中超越了 Qwen2.5-VL-3B。此外，BlueLM-2.5-3B 表现出卓越的数据效率。尽管如此，所有上述性能都以远少于 Qwen2.5-VL-3B 和 Qwen3-4B 的总训练数据实现。我们希望我们的工作推动高性能边缘 MLLM 的发展，并为研究社区提供有意义的洞见。
引用
@article{arxiv.2507.05934,
title = {BlueLM-2.5-3B Technical Report},
author = {Baojiao Xiong and Boheng Chen and Chengzhi Wang and Daxiong Luo and Dongsheng Xu and Dongyang Liu and Fan Yang and Fangyuan Li and Fei Teng and Feng Wang and Fukang Qin and Fuquan Peng and Guanxin Tan and Guozhi Wang and Haibo Yu and Haohao Gao and Heng Liu and Hongbo Yang and Hongjian Zou and Houzheng Shen and Hu Meng and Huan Li and Hui Tan and Jiali Chen and Jianzhao Chen and Jinliang Zhu and Kai Wang and Lei Wu and Liangbing Liu and Liuyang Bian and Liyan He and Long Liu and Peiwen Li and Penggang Shi and Qi Ding and Rui Hu and Shuai Cao and Shuai Ren and Shuang Peng and Teng Xie and Weiji Chen and Weilin Xiang and Weixin Wu and Xi Yin and Xiaoxin Chen and Xu Chen and Yafei Wen and Yan Hu and Yanzhou Yang and Yina Xie and Yinghao Chen and Yixuan Liao and Yu Geng and Yuanjiang Ouyang and Yuanzhuo Yang and Yuehua He and Yushuai Peng and Zhaoxiong Wang and Zheng Wang and Zhibo Zhou and Ziyang Wu},
journal= {arXiv preprint arXiv:2507.05934},
year = {2025}
}