从LLM到对话代理：一种带有大型语言模型微调的记忆增强架构
计算与语言
2024-01-31 v2 人工智能
摘要
本文介绍RAISE（通过草稿和示例进行推理和行动），一种增强将大型语言模型（如GPT-4）集成到对话代理中的先进架构。RAISE是ReAct框架的增强版，包含一个双组件记忆系统，模拟人类短期和长期记忆，以保持对话的上下文和连续性。它包含一个全面的代理构建场景，包括对话选择、场景提取、思维链完成和场景增强等阶段，最终进入LLM训练阶段。这种方法似乎增强了代理在复杂多轮对话中的可控性和适应性。我们在房地产销售背景下的初步评估表明，RAISE相对于传统代理具有一定优势，表明其具有更广泛应用的潜力。这项工作通过提供一个稳健的框架来开发更具上下文感知和多功能的对话代理，为人工智能领域做出了贡献。
引用
@article{arxiv.2401.02777,
title = {From LLM to Conversational Agent: A Memory Enhanced Architecture with Fine-Tuning of Large Language Models},
author = {Na Liu and Liangyu Chen and Xiaoyu Tian and Wei Zou and Kaijiang Chen and Ming Cui},
journal= {arXiv preprint arXiv:2401.02777},
year = {2024}
}