通过调优和多分支推理增强低参数大语言模型的通用智能体能力

开源预训练大语言模型(LLMs)展现出强大的语言理解和生成能力，在各种任务中非常成功。然而，当它们作为智能体处理现实世界中的复杂问题时，其性能远不如ChatGPT和GPT-4等大型商业模型。作为智能体，LLMs需要具备任务规划、长期记忆以及利用外部工具的能力，才能获得令人满意的性能。已有多种方法被提出以增强LLMs的智能体能力。一方面，方法涉及构建智能体特定数据并对模型进行微调。另一方面，一些方法专注于设计有效激活LLMs推理能力的提示。我们在7B和13B模型上探索了这两种策略。我们提出了一种使用GPT-4构建智能体特定数据的综合方法。通过使用构建的数据进行监督微调，我们发现对于这些参数数量相对较小的模型，监督微调可以显著减少智能体任务中的幻觉输出和格式错误。此外，多路径推理和任务分解等技术可以有效降低问题复杂性并增强LLMs作为智能体的性能。我们在AgentBench的五个智能体任务上评估了我们的方法，并取得了令人满意的结果。