仅使用提示工程实现大语言模型的工具调用功能而无需微调
软件工程
2024-07-09 v1 人工智能
人机交互
摘要
目前,绝大多数本地部署的开源大语言模型(LLM)以及一些商业模型接口不支持稳定的工具调用功能。现有的解决方案涉及微调LLM,这会导致大量的时间和计算资源消耗。本文提出了一种方法,仅使用提示工程和一些巧妙的代码设计,即可使LLM实现稳定的工具调用能力。我们在多个缺乏工具调用能力的LLM上,针对各种工具调用任务进行了实验,成功率达到100%。
引用
@article{arxiv.2407.04997,
title = {Achieving Tool Calling Functionality in LLMs Using Only Prompt Engineering Without Fine-Tuning},
author = {Shengtao He},
journal= {arXiv preprint arXiv:2407.04997},
year = {2024}
}
备注
5 pages, 2 figures,review comments welcome