中文

更好的框架,更小的模型:通过自动框架适配构建成本降低90%的智能体

软件工程 2026-07-09 v1
作者: Chenyang Yang , Xinran Zhao , Tongshuang Wu , Christian Kästner
在 arXiv 上查看 ↗ PDF ↗

摘要

前沿LLM智能体正在自动化许多业务任务,但其高昂的推理成本使得大规模部署难以持续。小型语言模型(SLM)提供了一种更便宜的替代方案,但当它们被替换到为前沿LLM设计的框架中时,通常表现不佳。我们表明,对于许多常规业务任务,当与可由元智能体自动发现的适配框架配对时,SLM智能体可以以低90%的成本匹配LLM性能。关键见解在于,大部分任务难度在实例间是共享的,可以通过定制的指令、工具和编排循环从模型转移到框架中。为了系统地研究这一点,我们创建了一个将智能体故障模式映射到框架适配策略的框架,并构建了一个框架优化器,可以从故障轨迹中自动发现有效的适配。在七个面向业务的智能体任务和三个SLM系列中,我们发现优化后的框架在21个任务-SLM组合中的16个上显著提高了性能,其中七个组合缩小了SLM-LLM性能差距,最好的SLM智能体以4%的成本恢复了LLM性能的89.7%。我们的分析进一步表明,适配对于工作流更重复的任务和具有足够基础能力的SLM效果最好。这些结果共同表明,框架适配可以扩展SLM智能体在常规业务任务中的实际部署范围。

关键词

LLM agents small language models harness adaptation cost efficiency agentic tasks meta agent

引用

@article{arxiv.2607.08938,
  title  = {Better Harnesses, Smaller Models: Building 90% Cheaper Agents via Automated Harness Adaptation},
  author = {Chenyang Yang and Xinran Zhao and Tongshuang Wu and Christian Kästner},
  journal= {arXiv preprint arXiv:2607.08938},
  year   = {2026}
}