基于大语言模型和答案集编程的可靠协作对话代理系统

随着大语言模型（LLM）驱动的人工智能（AI）机器人流行，人们意识到它们在任务导向对话（TOD）中的强大潜力。然而，完全依赖 LLM 的机器人在知识方面不可靠，是否能够最终为任务产生正确的结果并不得到保证。代理人之间的协作也始终是一个挑战，因为必要信息的传递是不清晰的，信息通过提示进行传递：不可靠且容易注入恶意知识。通过知识表示和推理工具如答案集编程（ASP），可以构建安全可靠的对话代理，以及使代理人之间的通信更加可靠。我们提出了经理-客户-服务三代理范式，其中由 ASP 驱动的机器人共享相同的知识库并独立完成其分配的任务。代理人通过知识库相互通信，确保一致性。传递的知识和信息被封装且对用户不可见，确保信息传输的安全。为了说明双代理对话范式，我们构建了 AutoManager，用于管理美国快餐店如塔科贝尔（Taco Bell）的 drive-through 窗口的协作系统。在 AutoManager 中，客户服务机器人负责获取客户订单，而经理机器人负责管理菜单和食物供应。我们评估了 AutoManager 系统并将其与真实世界的塔科贝尔 Drive-Thru AI Order Taker 进行了比较，结果表明我们的方法更可靠。