AgentTuning：赋予大语言模型通用智能体能力
计算与语言
2023-10-24 v2 人工智能
机器学习
摘要
在各项任务中表现优异的开源大语言模型（LLMs）显著推动了 LLMs 的发展。然而，在作为智能体处理现实世界复杂任务时，它们远逊于 ChatGPT 与 GPT-4 等商业模型。这类智能体任务将 LLMs 用作负责规划、记忆与工具调用的中央控制器，既需要细粒度提示方法，也需要稳健的 LLMs 以取得满意表现。尽管已有诸多提示方法被提出以完成特定智能体任务，但缺乏在不损害模型通用能力前提下提升 LLMs 自身智能体能力的研究。本文中，我们提出 AgentTuning，一种简单且通用的方法，用于在保持 LLMs 通用能力的同时增强其智能体能力。我们构建了 AgentInstruct，一个包含高质量交互轨迹的轻量指令微调数据集。我们采用混合指令微调策略，将 AgentInstruct 与来自通用领域的开源指令相结合。AgentTuning 用于对 Llama 2 系列进行指令微调，得到 AgentLM。评估表明，AgentTuning 在赋予 LLMs 智能体能力的同时不损害其通用能力。AgentLM-70B 在未见智能体任务上可与 GPT-3.5-turbo 相媲美，展现出通用智能体能力。我们在 https://github.com/THUDM/AgentTuning 开源 AgentInstruct 及 AgentLM-7B、13B 与 70B 模型，为智能体任务提供开源且强大的商业 LLMs 替代方案。
引用
@article{arxiv.2310.12823,
title = {AgentTuning: Enabling Generalized Agent Abilities for LLMs},
author = {Aohan Zeng and Mingdao Liu and Rui Lu and Bowen Wang and Xiao Liu and Yuxiao Dong and Jie Tang},
journal= {arXiv preprint arXiv:2310.12823},
year = {2023}
}
备注
31 pages