中文

FlowReasoner:强化查询级元智能体

人工智能 2025-04-22 v1

摘要

本文提出了一种名为FlowReasoner的查询级元智能体,用于自动化设计查询级多智能体系统,即为每个用户查询生成一个系统。我们的核心思想是通过外部执行反馈来激励基于推理的元智能体。具体地,通过从DeepSeek R1蒸馏,我们首先赋予FlowReasoner关于生成多智能体系统的基本推理能力。随后,我们通过强化学习(RL)并利用外部执行反馈进行进一步提升。设计了一种多目的奖励函数,以从性能、复杂度和效率等方面指导RL训练。在此基础上,FlowReasoner能够通过深入的推理为每个用户查询生成一个个性化的多智能体系统。在工程和竞赛代码基准测试中实验结果表明,FlowReasoner的优势显而易见。显著的是,在三个基准测试中,FlowReasoner的准确率比o1-mini高出10.52%。代码已公开于https://github.com/sail-sg/FlowReasoner。

关键词

引用

@article{arxiv.2504.15257,
  title  = {FlowReasoner: Reinforcing Query-Level Meta-Agents},
  author = {Hongcheng Gao and Yue Liu and Yufei He and Longxu Dou and Chao Du and Zhijie Deng and Bryan Hooi and Min Lin and Tianyu Pang},
  journal= {arXiv preprint arXiv:2504.15257},
  year   = {2025}
}