RE-GAINS 与 EnChAnT:用于增强查询响应的智能工具操作系统
计算与语言
2024-06-21 v3
摘要
大型语言模型(LLM)目前在工具调用与链式操作上存在困难,因为它们经常产生幻觉或在序列中遗漏关键步骤。我们提出了 RE-GAINS 和 EnChAnT,这是两个新颖的框架,它们使 LLM 能够基于工具描述和参数列表对外部工具进行 API 调用,从而处理复杂的用户查询。工具的链式操作基于预期输出进行,而无需接收每次单独调用的实际结果。EnChAnT 是一个开源解决方案,利用了 LLM 格式强制器、OpenChat 3.5(一种 LLM)以及 ToolBench 的 API 检索器。RE-GAINS 则利用 OpenAI 模型和嵌入,并采用了基于 easoning vi lanning 框架的专用提示。这两个框架的成本都很低(每次查询 0.01$)。我们的核心贡献是使 LLM 能够使用可修改的、外部描述的工具进行调用与链式操作。
引用
@article{arxiv.2401.15724,
title = {RE-GAINS & EnChAnT: Intelligent Tool Manipulation Systems For Enhanced Query Responses},
author = {Sahil Girhepuje and Siva Sankar Sajeev and Purvam Jain and Arya Sikder and Adithya Rama Varma and Ryan George and Akshay Govind Srinivasan and Mahendra Kurup and Ashmit Sinha and Sudip Mondal},
journal= {arXiv preprint arXiv:2401.15724},
year = {2024}
}