中文

链路工具:冻结语言模型中大量未见工具的链条推理

计算与语言 2025-03-24 v1 人工智能

摘要

工具学习可以进一步拓展大型语言模型(LLM)的使用场景。然而,大多数现有方法要么需要微调,该模型只能使用训练数据中看到的工具,要么在提示中添加工具演示,效率较低。本文提出了一种新的工具学习方法链路工具(Chain-of-Tools)。该方法充分利用冻结 LLM 的强大语义表示能力,通过大规模且灵活的工具池完成 CoT 推理中的工具调用,其中可能包含未见的工具。尤其,为了验证该方法在大量未见工具场景下的有效性,我们构建了一个新的数据集 SimpleToolQuestions。我们在两个数值推理基准(GSM8K-XL 和 FuncQA)和两个基于知识的问题 answering 基准(KAMEL 和 SimpleToolQuestions)上进行实验。实验结果表明,我们的方法优于基线。我们还识别出模型输出中在工具选择中至关重要的维度,增强了模型的可解释性。我们的代码和数据可在 https://github.com/fairyshine/Chain-of-Tools 查阅。

关键词

引用

@article{arxiv.2503.16779,
  title  = {Chain-of-Tools: Utilizing Massive Unseen Tools in the CoT Reasoning of Frozen Language Models},
  author = {Mengsong Wu and Tong Zhu and Han Han and Xiang Zhang and Wenbiao Shao and Wenliang Chen},
  journal= {arXiv preprint arXiv:2503.16779},
  year   = {2025}
}

备注

11 pages, 10 figures