中文

Safurai-Csharp:利用合成数据改进特定语言代码 LLM

计算与语言 2023-11-07 v1

摘要

本文介绍 Safurai-Csharp,一个专为 C# 代码生成、补全与调试而设计的开源模型。Safurai-Csharp 构建于新颖的 CodeLlama 34B 模型之上,并利用 EvolInstruct 技术,为其微调过程创建精炼且扩充的数据集。其性能结果——在 Manual MultiPL-E 基准(Zero-Shot, Pass@1)上取得 56.33% 的显著分数——表明其具有简化开发者工作流和辅助代码学习的强大能力。它有望为开源 C# LLM 领域树立新标杆,并希望激发特定语言 LLM 领域更具包容性和更广泛的发展。

关键词

引用

@article{arxiv.2311.03243,
  title  = {Safurai-Csharp: Harnessing Synthetic Data to improve language-specific Code LLM},
  author = {Davide Cifarelli and Leonardo Boiardi and Alessandro Puppo and Leon Jovanovic},
  journal= {arXiv preprint arXiv:2311.03243},
  year   = {2023}
}