评估代理计划-执行管道中的时序语义缓存与工作流程优化
人工智能
2026-05-21 v1
摘要
工业资产运营工作流程具有时延敏感性，因为单个用户查询可能需要协调传感器数据、工单、故障模式、预测工具和领域特定智能体。我们在资产运营基准库（AssetOpsBench, AOB）上评估了这一问题，其计划-执行管道暴露了工具发现、LLM规划、MCP工具执行和最终总结等重复开销。现有LLM缓存技术，如KV缓存重用和基于嵌入的语义缓存，原为聊天机器人服务设计，难以处理输出有效性取决于时间、资产或传感器参数的情况。我们提出了两种互补的优化层，用于AOB计划-执行管道：时序语义缓存和一组MCP工作流程优化，包括磁盘存储的工具发现缓存和依赖感知的并行步骤执行。MCP工作流程优化实现了1.67倍加速，使端到端中位数时延约减少40.0%，而时序缓存基准在缓存命中时实现了中位数30.6倍加速。除了加速度之外，我们的结果揭示了参数丰富的工业查询中纯粹语义缓存的具体失效模式，提供了缓存选择如何与MCP支持智能体基准测试中的评估正确性交互作用的关键分析。
引用
@article{arxiv.2605.20630,
title = {Evaluating Temporal Semantic Caching and Workflow Optimization in Agentic Plan-Execute Pipelines},
author = {Alimurtaza Mustafa Merchant and Krish Veera and Sajal Kumar Goyla and Shambhawi Bhure and Dhaval Patel and Kaoutar El Maghraoui},
journal= {arXiv preprint arXiv:2605.20630},
year = {2026}
}
备注
13 pages, 8 figures, 3 appendices