SERA:软验证高效仓库智能体
计算与语言
2026-02-04 v2 机器学习
软件工程
摘要
开放权重编码智能体应持有的基本优势是:它们可以针对私有代码库进行专业化,将仓库特定信息直接编码到权重中。然而,训练的成本和复杂性一直使这一优势停留在理论层面。我们证明了现在实际操作是可行的。我们提出Soft-Verified Efficient Repository Agents(SERA),一种高效的训练方法,使能够快速且低成本地创建针对私有代码库专业化的智能体。仅使用监督微调(SFT),SERA在全开源(开放数据、方法、代码)模型中实现了领先的成绩,同时匹配了像Devstral-Small-2这样的前沿开放权重模型的性能。创建SERA模型的成本仅为强化学习的26倍,仅为之前合成数据方法的57倍,以达到相当的性能。我们的SVG方法(Soft Verified Generation)从单个代码仓库生成数千条轨迹。结合成本效益,这使针对私有代码库的专业化成为可能。除了仓库专业化,我们将SVG应用于更大范围的代码库,生成超过200,000条合成轨迹。我们使用此数据集为训练编码智能体提供详细的规模律、消融和混杂因素分析。总体而言,我们相信我们的工作将大大加快开放编码智能体的研究进展,展示了开源模型可针对私有代码库进行专业化的优势。我们将SERA发布为Ai2开放编码智能体系列中的第一个模型,同时发布所有代码、数据和Claude Code集成,以支持研究社区。
引用
@article{arxiv.2601.20789,
title = {SERA: Soft-Verified Efficient Repository Agents},
author = {Ethan Shen and Danny Tormoen and Saurabh Shah and Ali Farhadi and Tim Dettmers},
journal= {arXiv preprint arXiv:2601.20789},
year = {2026}
}
备注
21 main pages, 6 pages appendix