CodeEvo：基于混合迭代反馈的代码中心数据交互式合成
软件工程
2025-07-31 v1 人工智能
计算与语言
摘要
获取高质量指令-代码配对对于训练大型语言模型（LLM）进行代码生成至关重要。手动 curated 数据昂贵且本质上受限于规模，推动了代码中心合成方法的开发。然而，现有方法要么侧重于增强现有代码，要么依赖预定义的启发式方法，两者都缺乏严格的数据验证，导致合成数据缺乏依据、重复或过于简单。灵感来自协作式编程实践，我们提出CodeEvo框架，通过两个LLM代理之间的迭代交互来合成代码数据：一个Coder根据给定指令生成候选代码和测试用例，一个Reviewer通过产生新的指令和反馈来指导合成过程。我们进一步引入混合反馈机制，将编译器确定性与代理的生成灵活性相结合，实现合成全过程的自动质量控制。大量实验表明，在CodeEvo数据上微调的模型在各种难度的code generation基准测试中显著优于既定基线。深入分析还从多个角度提供了关于有效代码中心数据合成的见解。
引用
@article{arxiv.2507.22080,
title = {CodeEvo: Interaction-Driven Synthesis of Code-centric Data through Hybrid and Iterative Feedback},
author = {Qiushi Sun and Jinyang Gong and Lei Li and Qipeng Guo and Fei Yuan},
journal= {arXiv preprint arXiv:2507.22080},
year = {2025}
}
备注
Work in progress