TUMS:通过多结构处理器增强大语言模型的工具使用能力
计算与语言
2025-05-14 v1
摘要
最近,大型语言模型(LLM)在解决广泛的自然语言处理任务方发挥越来越重要的作用,利用其自然语言理解和生成能力。与外部工具集成进一步提升了 LLM 的效果,提供更精确、更及时和更专业的响应。然而,LLM 在处理非可执行操作和不当操作时仍然遇到困难,这主要归因于参数错误。LLM 生成参数的过程局限于工具层次,采用粗粒度策略,而不考虑不同工具的不同难度。为此,我们提出 TUMS,一种旨在通过将工具级处理转换为参数级处理来增强 LLM 工具使用能力的新框架。具体而言,我们的框架由四个关键组件构成:(1)意图识别器,用于识别用户意图以帮助 LLM 更好地理解任务;(2)任务分解器,将复杂任务分解为更简单的子任务,每个子任务都涉及一次工具调用;(3)具备多结构处理器的子任务处理器,用于生成准确的参数;(4)执行器。我们的实证研究表明,TUMS 框架在 ToolQA 数据集的易用和困难基准上分别实现了平均 19.6% 和 50.6% 的改进。我们通过消融实验展示了每个部分的关键贡献,为 Tool-augmented LLM 的未来研究提供了更多见解并激发了进一步的研究。
引用
@article{arxiv.2505.08402,
title = {TUMS: Enhancing Tool-use Abilities of LLMs with Multi-structure Handlers},
author = {Aiyao He and Sijia Cui and Shuai Xu and Yanna Wang and Bo Xu},
journal= {arXiv preprint arXiv:2505.08402},
year = {2025}
}
备注
Accepted to ICONIP 2024