Kernel-Smith：进化式内核优化的统一方案
计算与语言
2026-04-24 v2 机器学习
摘要
我们提出了 Kernel-Smith，一个用于高性能 GPU 内核与算子生成的框架，它将稳定的评估驱动进化智能体与面向进化的后训练方案相结合。在智能体端，Kernel-Smith 维护一个可执行候选程序种群，并利用性能最优且多样化的程序档案库以及关于编译、正确性与加速比的结构化执行反馈对其进行迭代改进。为使该搜索可靠，我们为 NVIDIA GPU 上的 Triton 和 MetaX GPU 上的 Maca 构建了后端特定的评估服务。在训练端，我们将长周期进化轨迹转换为以步骤为中心的监督与强化学习信号，保留保持正确性的高增益修订，使模型在进化循环内被优化为强大的局部改进器，而非一次性生成器。在统一的进化协议下，Kernel-Smith-235B-RL 在 KernelBench 上取得了最先进的整体性能（NVIDIA Triton 后端），获得了最佳平均加速比，并超越了包括 Gemini-3.0-pro 和 Claude-4.6-opus 在内的前沿专有模型。我们进一步在 MetaX MACA 后端上验证了该框架，Kernel-Smith-MACA-30B 超越了 DeepSeek-V3.2-think 和 Qwen3-235B-2507-think 等大规模对应模型，展示了在异构平台上无缝适应的潜力。除基准结果外，相同的工作流程还为 SGLang 和 LMDeploy 等生产系统做出了上游贡献，证明了 LLM 驱动的内核优化可以从受控评估迁移到实际部署。
引用
@article{arxiv.2603.28342,
title = {Kernel-Smith: A Unified Recipe for Evolutionary Kernel Optimization},
author = {He Du and Qiming Ge and Jiakai Hu and Aijun Yang and Zheng Cai and Zixian Huang and Sheng Yuan and Qinxiu Cheng and Xinchen Xie and Yicheng Chen and Yining Li and Jiaxing Xie and Huanan Dong and Yaguang Wu and Xiangjun Huang and Jian Yang and Hui Wang and Bowen Zhou and Bowen Li and Qipeng Guo and Kai Chen},
journal= {arXiv preprint arXiv:2603.28342},
year = {2026}
}