JSPLIT:面向模型上下文协议中的提示膨胀的基于分类学的解决方案
人工智能
2025-10-17 v1
摘要
AI 系统不断演进和发展,用户期望也随之增长,对超越大语言模型(LLM)简单文本交互的交互需求日益增长。当今应用常要求 LLM 与外部工具交互,标志着向更复杂的智能体系统的转变。为支持这一点,诸如模型上下文协议(Model Context Protocol, MCP)等标准已出现,使智能体能够通过在提示中包含每个工具能力的规范来访问工具。尽管这种方法扩展了智能体的功能,但也引入了不断增长的难题:提示膨胀。随着工具数量的增加,提示会变得更长,导致高提示 token 成本、延迟增加,以及由于选择与提示无关的工具而导致任务成功率下降。为解决此问题,我们引入 JSPLIT,一个基于分类学的框架,旨在帮助智能体在使用大量 MCP 工具时更有效地管理提示大小。JSPLIT 将工具组织成层次化分类学,并利用用户的提示识别并仅包含基于查询和分类学结构的相关工具。在本文中,我们描述了分类学的设计、工具选择算法以及用于评估 JSPLIT 的数据集。我们的结果表明,JSPLIT 在不显著损害智能体有效作出响应的能力方面,显著减少了提示大小。随着可用工具数量的大幅增加,JSPLIT 甚至会提高智能体的工具选择准确率,有效降低成本,同时在高复杂度智能体环境中提升任务成功率。
引用
@article{arxiv.2510.14537,
title = {JSPLIT: A Taxonomy-based Solution for Prompt Bloating in Model Context Protocol},
author = {Emanuele Antonioni and Stefan Markovic and Anirudha Shankar and Jaime Bernardo and Lovro Markovic and Silvia Pareti and Benedetto Proietti},
journal= {arXiv preprint arXiv:2510.14537},
year = {2025}
}