Safurai-Csharp:利用合成数据改进特定语言代码 LLM
计算与语言
2023-11-07 v1
摘要
本文介绍 Safurai-Csharp,一个专为 C# 代码生成、补全与调试而设计的开源模型。Safurai-Csharp 构建于新颖的 CodeLlama 34B 模型之上,并利用 EvolInstruct 技术,为其微调过程创建精炼且扩充的数据集。其性能结果——在 Manual MultiPL-E 基准(Zero-Shot, Pass@1)上取得 56.33% 的显著分数——表明其具有简化开发者工作流和辅助代码学习的强大能力。它有望为开源 C# LLM 领域树立新标杆,并希望激发特定语言 LLM 领域更具包容性和更广泛的发展。
引用
@article{arxiv.2311.03243,
title = {Safurai-Csharp: Harnessing Synthetic Data to improve language-specific Code LLM},
author = {Davide Cifarelli and Leonardo Boiardi and Alessandro Puppo and Leon Jovanovic},
journal= {arXiv preprint arXiv:2311.03243},
year = {2023}
}