JIANG：中文开放基础语言模型
计算与语言
2023-08-02 v1 人工智能
摘要
随着大语言模型技术的进步，其在各项任务中已展现出接近人类的能力。这一成就引起了企业与科研机构的浓厚兴趣，促使它们对这些模型的研究与开发进行大量投入。尽管这一时期涌现了众多大模型，但其中大多数主要基于英文数据训练。尽管它们在中文等其他语言中表现尚可，但由于词表设计与训练语料等因素，其潜力仍然有限。因此，它们充分展现中文能力方面有所欠缺。为解决此问题，我们引入了专为中文设计的名为 JIANG（生姜的中文拼音）的模型。我们收集了大量中文语料来训练该模型，并优化了其结构。大量实验结果证明了我们模型的优异性能。
引用
@article{arxiv.2308.00624,
title = {JIANG: Chinese Open Foundation Language Model},
author = {Qinhua Duan and Wenchao Gu and Yujia Chen and Wenxin Mao and Zewen Tian and Hui Cao},
journal= {arXiv preprint arXiv:2308.00624},
year = {2023}
}