TPTU-v2: 提升真实世界系统中基于大语言模型智能体的任务规划与工具使用能力
人工智能
2023-11-21 v1
摘要
大语言模型(LLMs)已展现出处理需要任务规划与外部工具(如 API)使用相结合的任务的能力。然而,真实世界复杂系统就任务规划与工具使用提出了三个普遍挑战:(1) 真实系统通常拥有海量 API,由于 token 长度有限,无法将所有 API 描述输入 LLM 的提示中;(2) 真实系统为处理复杂任务而设计,基础 LLM 难以为此类任务规划正确的子任务顺序与 API 调用顺序;(3) 真实系统中 API 之间语义与功能相似,给 LLM 甚至人类区分它们带来困难。对此,本文引入一个综合框架,旨在增强基于 LLM 的智能体在真实世界系统中的任务规划与工具使用(TPTU)能力。我们的框架包含三个应对上述挑战的关键组件:(1) API 检索器在海量可用 API 中为用户任务筛选最相关的 API;(2) LLM 微调器微调基础 LLM,使微调后的 LLM 更擅长任务规划与 API 调用;(3) 演示选择器自适应检索与难以区分的 API 相关的不同演示,进一步用于上下文学习以提升最终性能。我们使用一个真实世界商业系统以及一个开源学术数据集验证我们的方法,结果清晰展示了各独立组件及集成框架的有效性。
引用
@article{arxiv.2311.11315,
title = {TPTU-v2: Boosting Task Planning and Tool Usage of Large Language Model-based Agents in Real-world Systems},
author = {Yilun Kong and Jingqing Ruan and Yihong Chen and Bin Zhang and Tianpeng Bao and Shiwei Shi and Guoqing Du and Xiaoru Hu and Hangyu Mao and Ziyue Li and Xingyu Zeng and Rui Zhao},
journal= {arXiv preprint arXiv:2311.11315},
year = {2023}
}