TPE:通过多角色协作实现对概念工具更好的组合推理
人工智能
2023-09-29 v1 计算与语言
摘要
大语言模型(LLMs)在规划使用各类功能工具(如计算器和检索器)方面已展现出卓越性能,尤其在问答任务中。在本文中,我们拓展了这些工具的定义,以对话系统为背景聚焦于概念工具。概念工具指定了一种有助于系统性或探究性思考的认知概念。这些概念工具在实践中发挥着重要作用,例如在单轮对话中动态应用多种心理或辅导策略以组合出有益的回复。为了进一步增强 LLM 借助这些概念工具的推理与规划能力,我们引入了一种多角色协作框架:Think-Plan-Execute(TPE)。该框架将回复生成过程解耦为三个不同角色:Thinker、Planner 和 Executor。具体而言,Thinker 分析对话上下文中展现的内部状态(如用户情绪与偏好)以制定全局指导方针;Planner 随后生成可执行的计划来调用不同的概念工具(例如来源或策略);而 Executor 将所有中间结果整合为连贯的回复。这种结构化方法不仅增强了回复的可解释性与可控性,还减少了 token 冗余。我们在多种对话回复生成任务上验证了 TPE 的有效性,包括多来源(FoCus)与多策略交互(CIMA 和 PsyQA)。这揭示了其在处理现实世界对话交互中的潜力,这类交互需要超越单纯功能工具的更复杂工具学习。完整代码与数据将公开发布以供复现。
引用
@article{arxiv.2309.16090,
title = {TPE: Towards Better Compositional Reasoning over Conceptual Tools with Multi-persona Collaboration},
author = {Hongru Wang and Huimin Wang and Lingzhi Wang and Minda Hu and Rui Wang and Boyang Xue and Hongyuan Lu and Fei Mi and Kam-Fai Wong},
journal= {arXiv preprint arXiv:2309.16090},
year = {2023}
}