LLM 的中间件：工具对于复杂环境中的语言智能体至关重要

大型语言模型 的应用已经远远超出了文本处理的范畴，标志着将 LLM 视为能够在复杂环境中运行的通用智能体的新时代的到来。这些环境通常高度庞大，使得 LLM 无法在其短期记忆内进行处理。受近期关于利用工具扩展 LLM 能力的研究的启发，我们试图通过引入一类称为中间件的新工具，来研究工具在增强 LLM 处理此类复杂性方面的巨大潜力，以辅助在这些庞大环境中进行主动探索。此类专用工具可以充当中间件层，使 LLM 免受环境复杂性的影响。在两个具有代表性的复杂环境——知识库 和数据库——中，我们展示了用工具增强语言智能体在复杂环境中运行的巨大潜力。值得注意的是，配备了该中间件后，GPT-4 在需要访问数据库内容的任务中实现了最佳基准 2.8 倍的性能，在知识库任务中实现了 2.2 倍的性能。我们的发现为推进语言智能体在实际应用中的发展指明了方向。