S-DAG：基于主题的有向无环图用于多智能体异构推理

大语言模型（LLM）在复杂推理问题中取得了令人印象的性能。其效果高度依赖于具体任务的性质，尤其是所需的领域知识。现有方法（如混合专家）通常在任务层面工作；它们过于粗糙，无法有效解决涉及多个学科的异构问题。本工作提出了一种 novel 框架，对 subject 级别进行细粒度分析，并配备指定的多智能体协作策略来解决异构问题推理。具体而言，给定输入查询，我们首先使用图神经网络识别相关主题并推断它们之间的相互依赖关系，以生成一种基于主题的有向无环图（S-DAG），其中节点表示主题，边编码信息流。然后我们对 LLM 模型进行轮廓化，为每个模型分配 subject-specific 专业分数，并为匹配相应主题的 S-DAG 选择表现最佳的模型。这种 subject-model 匹配使我们能够实现图结构的多智能体协作，其中信息沿着 S-DAG 从起始模型流向结束模型。我们精选并发布了标准基准（MMLU-Pro、GPQA、MedMCQA）的多主题子集，以更好地反映复杂的真实世界推理任务。广泛的实验表明，我们的方法在准确率和效率方面显著优于现有的任务级模型选择和多智能体协作基线。这些结果凸显了 subject-aware 推理和结构化协作在解决复杂和多主题问题方面的有效性。