中文

仅使用提示工程实现大语言模型的工具调用功能而无需微调

软件工程 2024-07-09 v1 人工智能 人机交互

摘要

目前,绝大多数本地部署的开源大语言模型(LLM)以及一些商业模型接口不支持稳定的工具调用功能。现有的解决方案涉及微调LLM,这会导致大量的时间和计算资源消耗。本文提出了一种方法,仅使用提示工程和一些巧妙的代码设计,即可使LLM实现稳定的工具调用能力。我们在多个缺乏工具调用能力的LLM上,针对各种工具调用任务进行了实验,成功率达到100%。

关键词

引用

@article{arxiv.2407.04997,
  title  = {Achieving Tool Calling Functionality in LLMs Using Only Prompt Engineering Without Fine-Tuning},
  author = {Shengtao He},
  journal= {arXiv preprint arXiv:2407.04997},
  year   = {2024}
}

备注

5 pages, 2 figures,review comments welcome