SkVM：重新审视跨异构LLM和运行环境的技能语言虚拟机
软件工程
2026-04-14 v3 机器学习
摘要
LLM代理越来越多地采用技能作为可复用的组合单元。虽然技能在多样化的代理平台之间共享，但当前系统将它们视为原始上下文，导致同一技能对不同代理表现出不一致的行为。这种脆弱性损害了技能的可移植性和执行效率。为应对这一挑战，我们分析了118,000个技能并从传统编译器设计中汲取灵感。我们将技能视为代码，将LLM视为异构处理器。为使可移植性具有可操作性，我们将技能的需求分解为一组原始能力，并衡量每个模型-运行环境对它们的支持程度。基于这些能力配置文件，我们提出了SkVM，一个专为可移植和高效技能执行而设计的编译和运行时系统。在编译时，SkVM执行基于能力的编译、环境绑定和并发提取。在运行时，SkVM应用JIT代码固化和自适应重编译以进行性能优化。我们在八个不同规模的LLM和三个代理运行环境上评估了SkVM，覆盖SkillsBench和代表性技能任务。结果表明，SkVM显著提高了不同模型和环境之间的任务完成率，同时将令牌消耗降低了多达40%。在性能方面，SkVM通过增强并行性实现了最多3.2倍加速，并通过代码固化实现了19-50倍延迟降低。
引用
@article{arxiv.2604.03088,
title = {SkVM: Revisiting Language VM for Skills across Heterogenous LLMs and Harnesses},
author = {Le Chen and Erhu Feng and Yubin Xia and Haibo Chen},
journal= {arXiv preprint arXiv:2604.03088},
year = {2026}
}