GEM:结合 ReAct 智能体的图增强混合专家框架用于对话状态跟踪
计算与语言
2026-05-07 v1 人工智能
摘要
对话状态跟踪需要从多领域对话中精确提取结构化信息,尽管大语言模型具备出色的通用能力,但在该任务上仍面临困难。我们提出了 GEM(图增强混合专家),这是一个将语言模型与图结构对话理解以及基于 ReAct 智能体的推理相结合的新框架,以实现卓越的 DST 性能。我们的方法在专门的专家之间进行动态路由:一个捕获对话结构和轮次级依赖关系的图神经网络,以及一个用于序列建模的微调 T5-Small 编码器-解码器,由智能路由器进行协调。对于复杂的值生成任务,我们集成了在对话上下文上进行结构化推理的 ReAct 智能体。在 MultiWOZ 2.2 上,GEM 实现了 65.19% 的联合目标准确率,大幅优于端到端 LLM 方法(最佳:38.43%),并超越了包括 TOATOD(63.79%)、D3ST(58.70%)和 Diable(56.48%)在内的最先进(SOTA)方法。我们结合 ReAct 集成的图增强混合专家架构表明,将结构化对话表示与动态专家路由和基于智能体的推理相结合,为对话状态跟踪提供了一种强大的范式,在通过选择性专家激活保持计算效率的同时实现了卓越的准确率。
引用
@article{arxiv.2605.04449,
title = {GEM: Graph-Enhanced Mixture-of-Experts with ReAct Agents for Dialogue State Tracking},
author = {Ziqi Zhu and Adithya Suresh and Tomal Deb and Iman Abbasnejad},
journal= {arXiv preprint arXiv:2605.04449},
year = {2026}
}
备注
9 pages, 1 figure. Submitted to AAAI 2026. Also available at Amazon Science: https://www.amazon.science/publications/gem-graph-enhanced-mixture-of-experts-with-react-agents-for-dialogue-state-tracking