Kimi-Dev: 作为 SWE-Agent 技能先验的无智能体训练
人工智能
2025-12-09 v3 计算与语言
软件工程
摘要
大型语言模型（LLMs）越来越多地应用于软件工程（SWE）领域，SWE-bench 是关键基准。解决方案分为具有多轮交互的 SWE-Agent 框架，以及具有单轮可验证步骤的工作流式无智能体（Agentless）方法。我们认为这两种范式并非互斥：推理密集型的无智能体训练会诱导技能先验，包括定位、代码编辑和自我反思，从而使 SWE-Agent 的高效适配成为可能。在本工作中，我们首先整理无智能体训练方案，并提出 Kimi-Dev，一个开源的 SWE LLM，在 SWE-bench Verified 上达到 60.4%，是工作流方法中的最佳结果。通过在 5k 公开轨迹上的额外 SFT 适配，Kimi-Dev 驱动 SWE-Agent 达到 48.6% pass@1，与 Claude 3.5 Sonnet（241022 版本）持平。这些结果表明，来自无智能体训练的结构化技能先验可以弥合工作流与智能体框架之间的差距，构建可迁移的编码智能体。
引用
@article{arxiv.2509.23045,
title = {Kimi-Dev: Agentless Training as Skill Prior for SWE-Agents},
author = {Zonghan Yang and Shengjie Wang and Kelin Fu and Wenyang He and Weimin Xiong and Yibo Liu and Yibo Miao and Bofei Gao and Yejie Wang and Yingwei Ma and Yanhao Li and Yue Liu and Zhenxing Hu and Kaitai Zhang and Shuyi Wang and Huarong Chen and Flood Sung and Yang Liu and Yang Gao and Zhilin Yang and Tianyu Liu},
journal= {arXiv preprint arXiv:2509.23045},
year = {2025}
}
备注
68 pages. GitHub repo at https://github.com/MoonshotAI/Kimi-Dev