作为工具制造者的大语言模型
机器学习
2024-03-12 v2 人工智能
计算与语言
机器学习
摘要
近期研究强调了大语言模型（LLMs）在合适外部工具辅助下提升问题解决能力的潜力。在我们的工作中，我们进一步推进该概念，引入一个称为“大语言模型作为工具制造者”（LATM）的闭环框架，其中 LLM 为问题解决创建自身可复用的工具。我们的方法包含两个阶段：1）工具制造：一个 LLM 充当工具制造者，为一组任务打造工具。2）工具使用：另一个 LLM 充当工具使用者，应用工具制造者构建的工具来解决问题。在问题解决服务端，工具制造使得随着新请求出现而持续生成并缓存工具。该框架使后续请求能通过相应 API 访问缓存工具，提升任务解决效率。认识到工具制造需要更强的能力，我们将此任务分配给一个强大但资源密集的模型。相反，较简单的工具使用阶段委托给轻量模型。这种策略性分工使得工具制造的一次性成本分摊到多次工具使用实例上，在保持强劲性能的同时显著降低平均成本。此外，我们的方法通过工具的缓存与复用提供了一种功能性缓存，其存储一类请求的功能而非 LLM 的自然语言响应，从而扩展了传统缓存机制的适用性。我们在包括 Big-Bench 任务在内的多种复杂推理任务上评估了我们的方法。以 GPT-4 为工具制造者、GPT-3.5 为工具使用者，LATM 展现出与两角色均用 GPT-4 相当的性能，但推理成本显著降低。
引用
@article{arxiv.2305.17126,
title = {Large Language Models as Tool Makers},
author = {Tianle Cai and Xuezhi Wang and Tengyu Ma and Xinyun Chen and Denny Zhou},
journal= {arXiv preprint arXiv:2305.17126},
year = {2024}
}
备注
Code available at https://github.com/ctlllll/LLM-ToolMaker