cuPilot：用于CUDA Kernel演化的策略协调多智能体框架
高能物理 - 理论
2025-12-19 v1 高能物理 - 唯象学
摘要
优化CUDA内核是一项具有挑战性和劳动密集型的任务，需要硬件-软件协同设计专业知识以及高性能内核库的专有性质。虽然近期的大语言模型（LLMs）结合进化算法在自动内核优化方面显示出前景，但现有方法由于次优的智能体设计和不匹配的演化表示而常常在性能上不足。这项工作识别了这些不匹配，并提出了cuPilot，一个策略协调的多智能体框架，为内核演化引入策略作为中间语义表示。主要贡献包括策略协调的演化算法、基于roofline的提示策略和策略级种群初始化。实验结果表明，cuPilot生成的内核在100个内核的基准测试上相对于PyTorch实现了平均3.09倍的加速。在GEMM任务上，cuPilot展示了复杂的优化并实现了关键硬件单元的高利用率。生成的内核已开源，地址为 https://github.com/champloo2878/cuPilot-Kernels.git。
引用
@article{arxiv.2512.16466,
title = {Thermodynamics from the S-matrix reloaded: emergent thermal mass},
author = {Pietro Baratella and Joan Elias Miro},
journal= {arXiv preprint arXiv:2512.16466},
year = {2025}
}
备注
25 pages, 4 appendices