Toolink：基于开源模型通过求解链联结工具包构建与调用
计算与语言
2024-03-19 v2 人工智能
摘要
大语言模型(LLMs)在工具利用方面展现出显著进展，但其闭源特性与高推理成本限制了适应性，亟需一种利用更小规模开源模型的有效方法。本文提出Toolink，一个综合性框架，通过先构建工具包、再经求解链(CoS)方法整合工具规划与调用的方式完成任务求解。我们首先在ChatGPT上验证了Toolink激发模型创造力与CoS能力的效用。随后，我们策划了面向工具使用的求解链数据集CoS-GPT，并微调LLaMA-7B模型，得到具有先进工具规划与工具调用能力的强大开源模型LLaMA-CoS。对BIG-bench中多样任务的评估表明，其CoS能力可与ChatGPT匹敌，而性能超越思维链方法。进一步研究凸显了LLaMA-CoS对未见任务的泛化能力，并展示其使用非专为目标任务定制之工具包的能力，证实了其在真实场景中的鲁棒性。
引用
@article{arxiv.2310.05155,
title = {Toolink: Linking Toolkit Creation and Using through Chain-of-Solving on Open-Source Model},
author = {Cheng Qian and Chenyan Xiong and Zhenghao Liu and Zhiyuan Liu},
journal= {arXiv preprint arXiv:2310.05155},
year = {2024}
}
备注
NAACL 2024 Main