Switchcraft：面向智能体工具调用的 AI 模型路由器
人工智能
2026-05-11 v1 多智能体系统
摘要
调用外部工具的智能体 AI 系统功能强大，但成本高昂，导致开发者倾向于使用大模型并冲动推理预算。模型路由可缓解这一问题，但现有路由器是为聊天完成设计的，而非工具使用。我们提出了 Switchcraft，目前（据我们所知）第一个针对智能体工具调用优化的模型路由器。Switchcraft 在线运行，受正确性约束下选择最低成本的模型。我们构建了一个基于五个函数调用基准的评估框架，并训练了一个部署在延迟预算下的 DistilBERT 分类器。Switchcraft 实现了 82.9% 的准确率——匹配或超过最佳单个模型——同时将推理成本降低 84%，每百万查询节省超过 $3,600。我们发现更大模型在工具使用任务上并不一定在性能上优于较小模型，以及名义上较便宜的模型可能因 token 密集型推理而导致更高的总成本。我们的工作使智能体 AI 部署能够在不牺牲正确性的前提下实现成本感知。
引用
@article{arxiv.2605.07112,
title = {Switchcraft: AI Model Router for Agentic Tool Calling},
author = {Sharad Agarwal and Pooria Namyar and Alec Wolman and Rahul Ambavat and Ankur Gupta and Qizheng Zhang},
journal= {arXiv preprint arXiv:2605.07112},
year = {2026}
}