SWE-Spot：基于存储库中心学习构建小型存储库专家
机器学习
2026-01-30 v1 人工智能
计算与语言
软件工程
摘要
在隐私敏感和资源受限的环境中部署编码代理，推动了对 capable open-weight 小型语言模型（SLMs）的需求。然而，它们存在根本性的能力差距：与前沿大型模型不同，它们缺乏强大的推理时泛化能力，以处理复杂且不熟悉的代码库。我们识别出，当前的任务中心学习（TCL）范式——即跨不同存储库扩展暴露——无法解决这一限制。应对方法是提出存储库中心学习（RCL），这是一种范式转变，优先考虑垂直存储库深度而非水平任务广度，表明SLMs必须通过参数知识获取来内化目标软件环境的“物理规律”，而非尝试通过高昂的推理时搜索来恢复。遵循这一新范式，我们设计了一个四单元存储库中心经验，将静态代码库转化为交互式学习信号，以训练SWE-Spot-4B——一系列高度紧凑的模型，作为存储库专家构建，打破了 established scaling 趋势，在多个SWE任务中超越了open-weight模型（如Meta的CWM、Qwen3-Coder-30B），并与效率导向的商业模型（如GPT-4.1-mini、GPT-5-nano）相抢或匹配性能。进一步分析表明，RCL实现了更高的训练样本效率和更低的推理成本，强调对于构建高效智能而言，存储库掌握是一个独特且必要的维度，补充了通用编码能力。
引用
@article{arxiv.2601.21649,
title = {SWE-Spot: Building Small Repo-Experts with Repository-Centric Learning},
author = {Jinjun Peng and Magnus Saebo and Tianjun Zhong and Yi-Jie Cheng and Junfeng Yang and Baishakhi Ray and Simin Chen and Yangruibo Ding},
journal= {arXiv preprint arXiv:2601.21649},
year = {2026}
}