用于高效智能体LLMs的动态系统指令与工具暴露
人工智能
2026-02-20 v1
摘要
大型语言模型（LLM）智能体通常运行多个步骤，每轮都要重新摄入冗长的系统指令和庞大的工具目录。这增加了成本、智能体偏离轨道的概率、延迟以及工具选择错误。我们提出了指令-工具检索（ITR），这是一种RAG变体，它每步只检索最小的系统提示片段和最小必要工具子集。ITR组成一个动态运行时系统提示，并暴露一个带有置信度门控回退的缩小工具集。使用一个包含内部一致数字的受控基准测试，与整体基线相比，ITR将每步上下文令牌减少了95%，将正确的工具路由相对提高了32%，并将端到端回合成本降低了70%。这些节省使得智能体能够在上下文限制内运行2-20倍更多的循环。节省随着智能体步骤数量的增加而复合，使得ITR对于长期运行的自主智能体特别有价值。我们详细介绍了该方法、评估协议、消融实验以及实际部署的操作指南。
引用
@article{arxiv.2602.17046,
title = {Dynamic System Instructions and Tool Exposure for Efficient Agentic LLMs},
author = {Uria Franko},
journal= {arXiv preprint arXiv:2602.17046},
year = {2026}
}