中文

X-Coder:通过完全合成任务、解答和测试提升竞赛编程

计算与语言 2026-02-03 v2 机器学习

摘要

竞赛编程对代码大语言模型构成重大挑战。虽然最近的模型显示出前景,但它们严重依赖有限的真实世界数据,这引发了可扩展性和数据污染的担忧。本文调查了一个关键问题:我们能否通过完全合成数据将模型提升至专家水平的推理性能?针对此问题,我们首先观察到,即插即用的合成方法在该领域 yield 次优结果。为此,我们系统性地探讨了支配合成数据质量的关键因素。依据这些发现,我们通过领域特定的演化和双重验证策略,显著推进了基于特征的合成范式,促进任务可解性、解答正确性和测试准确性。使用这一高质量合成数据,我们在SFT后RL范式下训练了X-Coder模型系列。X-Coder-7B在具有挑战性的LiveCodeBench v5(62.9% avg@8)和v6(55.8% avg@8)上实现显著性能提升,超越了在真实世界数据上训练的更大模型。广泛分析提炼出关于合成数据规模、领域适应特征演化必要性以及代码导向强化学习的宝贵洞见。

关键词

引用

@article{arxiv.2601.06953,
  title  = {X-Coder: Advancing Competitive Programming with Fully Synthetic Tasks, Solutions, and Tests},
  author = {Jie Wu and Haoling Li and Xin Zhang and Jiani Guo and Jane Luo and Steven Liu and Yangyu Huang and Ruihang Chu and Scarlett Li and Yujiu Yang},
  journal= {arXiv preprint arXiv:2601.06953},
  year   = {2026}
}

备注

Code: https://github.com/JieWu02/X-Coder; Data: https://huggingface.co/datasets/IIGroup/X-Coder-SFT-376k