中文

工具注意力就是你需要的:消除可扩展智能体工作流程中的MCP/Tools税的动态工具门控与惰性模式加载

人工智能 2026-04-24 v1

摘要

模型上下文协议(MCP)已成为连接大语言模型(LLM)智能体与外部工具的常见接口,但其对无状态、急切模式注入的依赖导致隐藏的每轮开销——MCP税或工具税——在典型的多服务器部署中报告的开销约为1万至6万个token。这种有效负载会扩大键值缓存,随着上下文利用率逼近约70%的 published fracture point,推理性能会受到影响,使token预算转化为持续的运营成本。我们引入工具注意力(Tool Attention),一种 middleware 层机制,将"注意力就是你需要的"范式从对token的自注意力推广到对工具的门控注意力。工具注意力结合了(i)来自句子嵌入的意图模式重叠(ISO)评分,(ii)基于状态的门控函数以执行前提条件和访问范围为约束,以及(iii)两种阶段的惰性模式加载器,保持紧凑的摘要池以上下文为主,仅为top-k门控工具推送完整的JSON模式。我们在一个模拟的120工具、6服务器基准测试上进行评估,其每个服务器的token计数根据公开的MCP部署审计校准。在此模拟环境中,工具注意力直接将每轮工具token数降低95.0%(47.3k -> 2.4k),并将有效上下文利用率(一种token比率量)从24%提高到91%。针对任务成功率、延迟、成本和推理质量的端到端数据,以测量到的token数结合已发布的部署遥测为基础进行投影;它们并非在活LLM智能体上实际测量,我们在整个论文中明确标注了投影值。综上所述,结果支持这样一个简单论点:协议层面的效率,而非原始上下文长度,是可扩展智能系统的约束因素。该工作的代码可在 https://github.com/asadani/tool-attention 访问。

关键词

引用

@article{arxiv.2604.21816,
  title  = {Tool Attention Is All You Need: Dynamic Tool Gating and Lazy Schema Loading for Eliminating the MCP/Tools Tax in Scalable Agentic Workflows},
  author = {Anuj Sadani and Deepak Kumar},
  journal= {arXiv preprint arXiv:2604.21816},
  year   = {2026}
}

备注

21 pages