中文

HGMF:一种用于模型上下文协议内可扩展工具调用的分层高斯混合框架

人工智能 2026-01-09 v2

摘要

调用外部工具使大语言模型(LLMs)能够执行复杂的现实世界任务,然而从大型、分层结构的库中选择正确的工具仍然是一个重大挑战。LLMs 有限的上下文窗口以及不相关选项带来的噪声常常导致选择准确率低和计算成本高。为解决这一问题,我们提出了分层高斯混合框架(HGMF),这是一种用于可扩展工具调用的概率剪枝方法。HGMF 首先将用户查询和所有工具描述映射到一个统一的语义空间。然后,该框架分两个阶段运行:使用高斯混合模型(GMM)对服务器进行聚类,并根据查询的似然度进行过滤;随后,对与所选服务器关联的工具应用相同的基于 GMM 的聚类和过滤。这种分层过程产生了一个紧凑、高相关性的候选集,简化了 LLM 的最终选择任务。在公开数据集上的实验表明,HGMF 显著提高了工具选择的准确率,同时降低了推理延迟,证实了该框架在大规模工具库中的可扩展性和有效性。

关键词

引用

@article{arxiv.2508.07602,
  title  = {HGMF: A Hierarchical Gaussian Mixture Framework for Scalable Tool Invocation within the Model Context Protocol},
  author = {Wenpeng Xing and Zhipeng Chen and Changting Lin and Meng Han},
  journal= {arXiv preprint arXiv:2508.07602},
  year   = {2026}
}