Co-PatcheR：基于组件特定小规模推理模型的协作软件修补
人工智能
2025-11-27 v2 密码学与安全
软件工程
摘要
受通用大型语言模型（LLM）在软件修补方面取得的成功的启发，近期研究开始训练专门的修补模型。大多数研究训练一个模型来处理整个修补管道（包括问题定位、修补生成和修补验证）。然而，小模型很难处理所有任务，因为不同子任务具有不同的工作流程并需要不同的专业知识。因此，通过使用 700 亿参数模型，SOTA 方法在 SWE-bench-Verified 上的解决率仅达到 41%。受协作本质的启发，我们提出 Co-PatcheR——首个采用小规模专门推理模型处理各个组成部分的协作修补系统。我们的关键技术创新包括特定任务设计和训练配方。首先，我们训练一个用于定位和修补生成的模型。我们的定位通过两个步骤定位可疑行，我们的生成组合修补生成和批判。我们然后提出一种混合修补验证方法，包括两个模型用于构建带无断言和带断言的 issue-重现测试用例，并对修补正确性进行判断，随后进行多数投票式的修补选择。通过大规模评估，我们展示了 Co-PatcheR 在 SWE-bench-Verified 上的解决率达到 46%，仅使用 3 个 14B 参数模型。Co-PatcheR 是目前最好的修补器，所需训练资源最少、使用的模型最小。我们进行了全面的消融研究，以验证我们的配方，以及我们选择的训练数据数量、模型规模和测试阶段的扩展策略。
引用
@article{arxiv.2505.18955,
title = {Co-PatcheR: Collaborative Software Patching with Component(s)-specific Small Reasoning Models},
author = {Yuheng Tang and Hongwei Li and Kaijie Zhu and Michael Yang and Yangruibo Ding and Wenbo Guo},
journal= {arXiv preprint arXiv:2505.18955},
year = {2025}
}