MobileKernelBench：LLM 是否能够为移动设备编写高效内核？
机器学习
2026-03-17 v2 人工智能
摘要
大型语言模型（LLM）已在代码生成方面展现出惊人的能力，但其针对移动设备的内核生成潜力至今鲜有探索。本文将自动化内核生成的范围扩展至移动领域，以调查核心问题：LLM是否能够为移动设备编写高效内核？为实现系统化调查，我们引入MobileKernelBench，一个综合性评估框架，包括以算子多样性和跨框架互操作性为优先级的基准测试，以及连接主机-设备之间的自动化管道，以实现设备端验证。利用该框架，我们在Mobile Neural Network（MNN）CPU后端进行了广泛评估，结果显示当前LLM在面临移动框架所固有的工程复杂性和数据稀缺性时仍感到困难；标准模型甚至微调后的数据集均出现编译失败率超过54%，且因幻觉和缺乏领域特定 grounding 而几乎没有性能提升。为克服这些限制，我们提出Mobile Kernel Agent（MoKA），一个具备存储库感知推理和计划-执行范式的多智能体系统。在MobileKernelBench上验证后，MoKA实现了最高性能，使编译成功率提升至93.7%，并使生成内核中27.4%能够相对于本地库实现可衡量的加速。
引用
@article{arxiv.2603.11935,
title = {MobileKernelBench: Can LLMs Write Efficient Kernels for Mobile Devices?},
author = {Xingze Zou and Jing Wang and Yuhua Zheng and Xueyi Chen and Haolei Bai and Lingcheng Kong and Syed A. R. Abu-Bakar and Zhaode Wang and Chengfei Lv and Haoji Hu and Huan Wang},
journal= {arXiv preprint arXiv:2603.11935},
year = {2026}
}
备注
Paper webpage: https://zeezou-isee.github.io/Mobilekernelbench/